"כאשר ארגון מטמיע סוכן AI במערכות ה-IT, הוא נוטה לחשוב שהסוכן יפעל לפי הנחיות המפעילים שלו. אלא שבפועל, בלא מעט מקרים, הסוכן מקבל שאילתה לגיטימית, שאחריה הוא עורך פעולות אסורות, כמו הסטת תעבורה בלא אישור, בלי שאיש ראה", כך אמרה קרן כץ, מנהלת מחקר החולשות ב-Zenity. כץ הייתה דוברת המפתח בכנס השנתי של OWASP ישראל, שנערך אתמול (ג') בביתן 10 באקספו תל אביב, תחת המוטו "מאבטחים את המחר". בכנס OWASP AppSec Israel 2026 השתתפו יותר מאלף חברי הקהילה. לדבריה, "כאשר מגיע מודל, אנו ממתינים לראות מתי האקר מתוחכם יפרוץ אותו, בזמן שבמציאות הבוט, העוזר, כבר מעביר כסף מאחורי גבנו, בלא שנדע. לסוכני ה-AI יש מנדט, מטרה – וייתכנו מצבים שבהם לא ניתן יהיה לעצור אותם. המצב נהיה גרוע יותר עם הופעת הבינה המלאכותית הסוכנית, Agentic AI. ברוכים הבאים למשטח התקיפה החדש: זה האוטונומי". כץ נבחרה באחרונה לאחת מ-40 הצעירים והצעירות המבטיחים של TheMarker לשנת 2026. יחד עם OWASP, הארגון הבינלאומי המוביל לגיבוש תקנים והנחיות בתחום אבטחת היישומים, היא הובילה את כתיבת מסגרת הייחוס הראשונה לאבטחת סוכני בינה מלאכותית, שכבר אומצה על ידי חברות בינלאומיות. במסגרת זו הייתה שותפה להגדרת דרכים נכונות, אחראיות ובטוחות לשימוש בסוכני AI. "פעולות אסורות של סוכני AI אינן באג" לדברי כץ, "עולם הבינה המלאכותית הסוכנית מהווה שלב חדש באיומי הסייבר. כולם עובדים יחד כדי להיאבק בתופעת הסוכנים הסוררים: ענקיות טק, ביניהן אנבידיה, גוגל ומיקרוסופט, חברות סטארט-אפ, ארגונים בצמיחה, ממשלות – ועמותות וקהילות אבטחה". "פעולות אסורות של סוכני AI אינן באג", ציינה. "זה לא מקרה, זה לא הפתעה – אלא תוצאת הבנייה של ארכיטקטורה סוכנית". לדבריה, "כאשר ארגונים מטמיעים AI ושמחים כי הם ממטבים זמן תגובה ומביאים לחיסכון בכוח אדם, והכול נראה פועל כיאות ולגיטימי – הסוכן, שלא רוצה לאכזב את המשתמש, יעשה פעולות אסורות. זה קורה עוד ועוד. הסוכן, 'לשיטתו', לא עושה דבר שגוי – הוא רוצה למלא את משימתו". מה שנדרש, אמרה כץ, הוא לוודא שיש התאמה בין כוונות המשתמש לבין פעולות הסוכן, כדי שהסוכן ימשיך לפעול בהתאם למטרה המקורית שנקבעה. לדבריה, "אסור להימצא במצב שבו המשובים וחוות הדעת אומרים 'זה עובד נפלא', כאשר במציאות הסוכן שולח בסתר מפתחות הצפנה SSH לאחור". קמפיין מהדק הנייר כץ תיארה מחקר שנערך ב-Zenity, "קמפיין מהדק הנייר" (The Paperclip Campaign), שהוצג באוגוסט השנה בכנס הסייבר Black Hat בלאס וגאס. את המחקר הציגו מיכאל ברגורי, מייסד משותף ו-CTO של Zenity, ותמיר ישי-שרבת, דירקטור אבטחת מידע בחברה. לדברי כץ, "מדובר במתקפת שרשרת אספקה חמורה – המכוונת נגד סוכני בינה מלאכותית. סוג זה של מתקפות לא נדון מספיק ביחס לכמות המתקפות הקיימות". במסגרת הקמפיין, לדבריה, התוקף יצר "מיומנויות" (Skills) זדוניות עבור סוכני AI, שצברו יותר מ-1.7 מיליון התקנות במטרה לגנוב מידע רגיש מארגונים. "המחקר הזה הוא דוגמה אמיתית לכך שאבטחת מידע בעידן ה-AI היא פאזל המורכב ממגוון נדבכים. שרשרת האספקה היא אחד מהנדבכים הללו", אמרה כץ. לדבריה, המהירות שבה שרשרת האספקה משתנה ומתעדכנת בסוכני AI, לצד העובדה שמערכות אבטחת שרשרת אספקה קלאסיות עדיין לא הותאמו להתמודדות עם מתקפות המכוונות לסוכני AI, מהוות אתגר משמעותי לעולם אבטחת המידע. "כאשר דנו בכך בסוף 2025 חשבו שאנחנו מגזימים. השנה וחצי האחרונות הן עדות לכך שזה קורה כל הזמן", סיכמה. "יש לעבור מתגובה למניעה – אין אופציה אחרת. נדרשת נראות כוללת וניטור של כלל השרשרת. יש עוד רבות מה לעשות".