זוהר פנחסי, מומחה סייבר, אזרח ארה"ב וישראל ובעלי MonsterCloud מפלורידה, הואשם בארה"ב בהונאת לקוחות שפנו לחברה לאחר שנפגעו ממתקפות כופרה. לפי משרד המשפטים האמריקני, פנחסי הציג בפני לקוחות את החברה כחלופה לתשלום כופר והבטיח כי היא מסוגלת לפענח את המידע שלהם ללא תשלום לעברייני הסייבר. אלא שלפי כתב האישום, מאחורי הקלעים נהג פנחסי ליצור קשר עם התוקפים, לשלם להם את הכופר ולקבל מהם מפתח פענוח – בעוד שללקוחות הוצג כאילו השחזור בוצע באמצעות "כלים קנייניים" ו"טכניקות פענוח מתקדמות" של החברה. יותר מ-19 מיליון דולר מהלקוחות לפי כתב האישום, MonsterCloud גבתה מהלקוחות סכומים שהיו גבוהים משמעותית מהכופר ששולם בפועל לתוקפים. במקרה אחד, מאוגוסט 2023, נטען כי פנחסי שילם לעבריין סייבר כ-8,200 דולר, בעוד שהלקוח חויב בכ-150 אלף דולר. במהלך התקופה שנחקרה, נטען, נגבו מהלקוחות יותר מ-19 מיליון דולר, בעוד שלעברייני הסייבר שולמו יותר מ-8 מיליון דולר. פנחסי, בן 50, המוכר גם בשמות Zack Silver ו-Zack Green, הואשם בשני סעיפים של הונאה באמצעות תקשורת ובסעיף אחד של קשירת קשר לביצוע הונאה באמצעות תקשורת. אם יורשע, הוא עלול לעמוד בפני עונש מרבי של 20 שנות מאסר בגין כל אחד מהסעיפים. "הפך את משבר הקורבן למרכז רווח" במשרד המשפטים וב-FBI טוענים כי השיטה המיוחסת לפנחסי הובילה לכך שעסקים שכבר נפגעו ממתקפת כופרה נפגעו פעם נוספת מצד מי שאליו פנו לקבלת סיוע. ג'יימס ברנקל ג'וניור, עוזר מנהל ב-FBI, אמר כי לפי החשדות פנחסי "טען שהוא מטפל בכופרה, אך מעולם לא טיפל באיום הבסיסי", ובמקום זאת "הפך את משבר הקורבן למרכז הרווח שלו". ה-FBI חוקר את הפרשה. משרד המשפטים הזכיר בהודעתו כי ה-FBI ו-CISA אינם ממליצים בדרך כלל לשלם כופר, משום שהתשלום אינו מבטיח שהמידע יפוענח, שהמערכות לא יישארו פרוצות או שהמידע שנגנב לא יודלף. יש לציין כי כתב אישום הוא בגדר טענה בלבד. פנחסי נחשב חף מפשע כל עוד לא הוכחה אשמתו מעבר לספק סביר.

אנבידיה החליטה להוציא מהשוק את כרטיסי התצוגה לגיימרים המובילים GeForce RTX 5090 – כך לפי מספר דיווחים. באותם דיווחים צוין כי החברה מעדיפה להפנות את המעבדים הגרפיים שמשמשים את הכרטיסים הללו – שמיוצרים בפועל בידי שותפותיה – לטובת שיבוצם בכרטיסים מקצועיים בלבד. המעבד, GB202, המבוסס על ארכיטקטורת ה-Blackwell של אנבידיה, משמש, מעבר ל-RTX 5090, את המשפחות המקצועיות RTX Pro 5000 ו-RTX Pro 6000. כרטיסים אלה משמשים את יוצרי ה-AI גם ברמה האישית, ומגיעים עם יותר ליבות CUDA ועם יותר זיכרון תצוגה. כמו כן, אין צורך בממשקים המיועדים להקצת משחקים באיכות גבוהה. על אף שה-RTX 5090 הוא כרטיס מסך למחשבים נייחים יקר במיוחד, שעלותו המקורית הייתה כ-5,000 דולר והוא נמכר כעת גם במחיר גבוה יותר, הוא עדיין זול לעומת כרטיסי המסך המקצועיים: כך, RTX Pro 6000 עם 24,064 ליבות CUDA ו-96 גיגה-בייט זיכרון GDDR7 נמכר בכ-15 אלף דולר, כך שההכנסות הגדולות יותר, ובאופן משמעותי, די ברורות. לפי הדיווחים לא ברור מתי זה יקרה בפועל, ואנבידיה לא אישרה או הכחישה אותם. אולם, עדיין ניתן למצוא כרטיסי RTX 5090, שעבור מפתחי AI רבים בהחלט מספקים את הצרכים שלהם, כי ליצרניות יש עדיין מלאי. עם זאת, אפשר להעריך שהמחירים שלהם כבר יעלו בעקבות הדיווחים הללו. לאנבידיה אין תחרות בשוק הכרטיסים הגרפיים לגיימרים ברמות הגבוהות. אם היא אכן תבטל את ה-RTX 5090, אין מתחרה גם לכרטיס הבא בהיררכיה שלה נכון להיום – ה-RTX 5080, שמוצע עם 16 גיגה-בייט זיכרון תצוגה מעודכן. סוג של פיצוי לפי הדיווחים, ועל אף שבעבר כבר נכתבו הערכות שבגלל עלויות מחירי הזיכרון אנבידיה תוותר בדור הזה על עדכון כרטיסי המסך שלה, שמכונה SUPER, החברה תציע מעבד שתומך ב-24 גיגה-בייט זיכרון GDDR7 כמעין סוג של פיצוי, במקום הכרטיס הנוכחי. כמו כן, בגלל המצב, הדור הבא של כרטיסי התצוגה/משחקים שלה למחשבים נייחים, ה-GeForce RTX 6000, יידחה לסוף 2027 ואולי אף תחילת 2028.

פעילות הסלולר של SpaceX מתרחבת בצורה ניכרת: אילון מאסק הודיע בסוף השבוע כי החברה רכשה תדרים ברוחב פס נמוך בסך של שמונה מיליארד דולר, שישולמו במזומן למוכרת, חברת הפרייבט אקוויטי גריין מנג'מנט (Grain Management). העסקה צפויה להעמיד את זרוע הסלולר שלה, סטארלינק מובייל, במקום הרביעי בשוק הסלולר בארצות הברית, אחרי שלוש הענקיות (ה-Big Three) – וריזון, טי-מובייל ו-AT&T. יחד עם לווייני סטארלינק, SpaceX אף תרחיב מאוד את ההובלה שלה בשוק התקשורת הלוויינית הישירה למכשירים סלולריים. רשות התקשורת של הממשל הפדרלי, ה-FCC, אישרה באחרונה לחברה שימוש בדור השני לטובת 15 אלף לוויינים, שישמשו לצורך כך. אלה יצורפו לשירותי התקשורת הלוויינית לסלולר הקיימים של סטארלינק, שפועלים בדור הסלולרי השני. מאסק כתב על העסקה בפוסט שפרסם ב-X ביום ה' האחרון כי היא מהווה "רעידת אדמה" בשוק הסלולר. לדבריו, "זוהי החתיכה הקריטית האחרונה בפאזל הספקטרום הנדרש ל-SpaceX כדי לספק כיסוי מלא באמריקה". היא משלימה את העסקה מהשנה שעברה, שבה SpaceX רכשה תדרים תמורת 17 מיליארד דולר מחברה אחרת, אקוסטאר. מה אומרים המומחים? ספקטרום תדרים נמוך יכול לחדור קירות – אתגר שסטארלינק מובייל מתקשה להתמודד איתו. המשמעות היא שבעוד שבעבר, סטארלינק מובייל נחשבה כמספקת שירות משלים לענקיות הסלולר האמריקניות, באזורים שהן לא הגיעו אליהם, כעת היא הופכת למתחרה ישירה שלהן. מומחים מצביעים על כך שהעסקה היא מכה קשה גם למתחרות של סטארלינק בתחום התקשורת הלוויינית, כגון AST ספייס מובייל. לעומת זאת, אנליסטים מעריכים שהעסקה צפויה להיטיב עם חברות האנטנות והתשתיות הקרקעיות. במורגן סטנלי הגדירו אותה כ-"בונה וחיובית" עבור חברות אלה. זאת, מאחר שכדי לממש את פוטנציאל התדרים שרכשה, SpaceX תצטרך לשלב בין סטארלינק לבין תחנות ממסר וסלולר קטנות – מה שייצור מודל היברידי ויגדיל את הביקוש לתשתיות קיימות. הערכה: העסקה תאושר על ידי ה-FCC "די בקלות" האתגר הבא הוא אישור העסקה על ידי ה-FCC. להערכת מומחים, העסקה תעבור את המשוכה הזאת די בקלות. רמז לכך ניתן למצוא בדבריו של יו"ר ה-FCC, ברנדן קר, שאמר בתגובה לעסקה כי "אנחנו הולכים לראות עוד השקעות ועוד הזדמנויות לשורה של ספקיות, ונראה את אמריקה מובילה את העולם בטכנולוגיות הדור הבא – לטובת הצרכנים בכל המדינה". בינתיים, SpaceX רשמה עלייה מתונה יחסית, של 1.25%, במסחר בוול סטריט ביום ו' האחרון, לאחר ההודעה. לעומת זאת, המניות של ענקיות הסלולר האמריקניות הקיימות צנחו: טי-מובייל צללה ב-13.27%, וריזון קטנה ב-8.75% ו-AT&T רשמה ירידה של 9.85%. גם המניות של חברות סלולר אירופיות גדולות רשמו ירידות: כך, למשל, מניית דויטשה טלקום צנחה בקרוב ל-8% וזו של בריטיש טלקום רשמה ירידה של יותר מ-2%.

מאת: איתי אהרון, מנכ"ל משותף בחברת הייפר גלובל ישראל המעבר של יכולות מחשוב ובינה מלאכותית אל נקודת הקצה (Edge computing) משנה גם את הדרישות מתשתיות המחשוב. עבור ארגונים בתעשיות הביטחון, הסייבר וה-IoT – המפעילים מערכות באוויר, בים וביבשה – השרתים נדרשים לתפקד בתנאים שבהם מרכז נתונים מסורתי אינו רלוונטי, שכן נדרשת התמודדות עם טמפרטורות קיצון ולחות ועד רעידות, זעזועים, מגבלות מקום ותנאי שטח מורכבים. האתגר אינו מסתכם בעמידות פיזית. מערכות המוצבות בשטח צריכות לשלב ביצועים גבוהים עם גמישות בהתקנה, נגישות לתחזוקה וניהול תרמי יעיל, גם כאשר סביבת העבודה אינה מאפשרת תנאים אופטימליים. על רקע הצורך הזה פיתחו הייפר גלובל (HIPER Global) ודל טכנולוגיות (Dell Technologies) את סדרת HIPER Rugged Edge AI – מערכות מחשוב מוקשחות המבוססות על פלטפורמות Dell PowerEdge XR, המיועדות להרצת יישומי AI לצד עומסי עבודה אינטנסיביים בסביבות קצה. המערכות משלבות את התשתית האמינה של דל עם יכולות ההנדסה, תכנון ארכיטקטורה והקשחת השרתים של הייפר גלובל, ומאפשרות פתרונות בהתאמה מדויקת בהתאם למגבלות הפיזיות והתפעוליות של כל סביבה – ובכלל זה תנאי קיצון. יכולות אלו נתמכות על ידי שילוב תוכנת iDRAC של דל – כלי ניהול מתקדם המאפשר ניטור, שליטה ותחזוקה מרחוק גם בתנאים מאתגרים. Rugged Edge Ai Servers של הייפר גלובל. צילום: היפר גלובל חלק מהותי מתהליך הפיתוח מבוסס על מערך בדיקות סביבתיות המבוצע In-House במעבדות של הייפר גלובל, ותהליכי תקינה המבוצעים על פי דרישה. בדיקות אלו מלוות את המוצר משלבי הפיתוח הראשוניים ועד למוצר המוגמר, ונועדו לבחון את תפקוד המערכות בתנאי קיצון. כך מובטחת עמידה מלאה בדרישות המחמירות ביותר, לרבות תקנים צבאיים, סביבתיים ורגולטוריים, לפני פריסתן בשטח.  המשמעות היא שינוי בגישה למחשוב מוקשח. במקום להתאים את סביבת העבודה לתשתית המחשוב, התשתית מתוכננת מראש, כדי להשתלב באופן מיטבי בסביבה שבה היא נדרשת לפעול. עבור מערכות ביטחוניות ויישומי IoT בקצה, שבהם עיבוד המידע חייב להתבצע קרוב למקור הנתונים, היכולת הזו הופכת את המחשוב המוקשח לחלק משמעותי בארכיטקטורת המערכת. השרתים החדשים יוצגו בביתן הייפר גלובל בכנס Dell Technologies Forum שיתקיים באקספו ת"א ב-13.10.26, הקהל מוזמן להגיע ולהתרשם מהם מקרוב. לאתר החברה – לחצו כאן

ליונל מסי, קפטן נבחרת ארגנטינה בכדורגל, יכול להכריע משחק לבדו, אבל בטורנירים זוכות קבוצות שיודעות לשחק יחד – ראו את נבחרת ספרד בגמר המונדיאל השנה, שניצחה את ארגנטינה וזכתה בגביע. כך גם ב-AI: לבנות סוכן בודד שמרשים בדמו זה כבר קל. האתגר מתחיל כשכמה סוכנים צריכים לתכנן יחד, לחלוק זיכרון, להפעיל כלים ולהשלים משימה עסקית אמיתית מקצה לקצה. למה זה נשבר אחרי הדמו? בבדיקת ההיתכנות (PoC) הכול עובד. אלא שבפרודקשן מתגלות שש בעיות, שלפי האנליזה שלנו חוזרות שוב ושוב: תוצאות לא אמינות במשימות מורכבות, עלויות וזמני תגובה שיוצאים משליטה, מערכת שלא לומדת מטעויותיה, סוכנים שעובדים כל אחד לעצמו בלי הקשר משותף, "קופסה שחורה" שקשה לנטר כשמשהו משתבש וחשיפה לסיכוני אבטחה. התוצאה: הסוכנים נראים חכמים – והעסק משלם ביוקר, תרתי משמע. אז איך גורמים לזה לעבוד? התשובה שלנו היא openJiuwen – פלטפורמת קוד פתוח (Apache 2.0) לבניית מערכות Multi-Agent בסביבת פרודקשן. השם Jiuwen (九问) פירושו בסינית "תשע שאלות", ברוח דברי הפילוסוף הסיני הידוע קונפוציוס: “היה להוט ללמוד, ואל תתבייש לשאול”. אז הנה חמש שאלות, ובתשובה לכל אחת מהן – מנגנון ש-openJiuwen מציעה: מי מנהל את הצוות? ב-WorkSwarm, סוכן מוביל מחלק את העבודה לסוכנים מומחים ומשלב אדם כשצריך. כולם עובדים מול לוח משימות משותף, עם מקור אמת אחד ותוצאות ביניים גלויות. לזה אנחנו קוראים Coordination Engineering. איך בוחרים מיומנות אחת מתוך אלפים? JiuWen Symphony מנווט בעץ ה-Skills היישר לענף הרלוונטי וצריכת הקונטקסט יורדת בערך פי ארבעה. מה זוכרים ומה משחררים? זיכרון בחמש שכבות ו-Context Engine שמכווץ היסטוריה לפני שהביצועים נשחקים. איך משתפרים מהרצה להרצה? ב-Self-Evolving Agents, כל הרצה מלמדת את הבאה. המודל לא משתנה; התפקידים, תהליכי העבודה, הפרומפטים והמיומנויות משתפרים. ומי שומר על כל זה? ארבע שכבות הגנה ופרוטוקול A4P, שדורש אישור אנושי לפעולות בסיכון גבוה ומתעד כל הרשאה. מה יוצא מזה לעסק? לפי נתוני הפרויקט, ניהול חכם של משאבי ההסקה חוסך כ-50% מהעלות. הפלטפורמה עובדת מול מגוון מודלים – מדיפסיק ועד OpenAI, בלי תלות בספק. הפרויקט הגיע למקום הראשון במבחן GAIA וסוכן פיננסי שנבנה על הפלטפורמה ב-China Post Savings Bank כבר משרת יותר מ-10 מיליון לקוחות. מה נעשה בסדנה? את הסדנה, שתתקיים תחת הכותרת "Build an Intelligent Team of AI Agents That Actually Works in the Real World", ינחה דרור מזרחי, CTO ומנהל מעבדה ב-Toga Networks, זרוע המחקר והפיתוח של וואווי בישראל, יחד עם צוות הפיתוח. בסדנה נתחיל מאבני הבניין של סוכן בודד – קונטקסט, כלים, MCP, מיומנויות, זיכרון והערכה – ונבנה מהן צוות. נראה בדמו איך משפט אחד הופך למשימה שצוות סוכנים מפרק, מבצע במקביל ומגיש תוצר כמעט מוגמר. בנוסף, נדבר בגלוי על מה עובד ומה פחות, ותוכלו לקבל כמה טיפים שכדאי לכם לקחת לפרויקט הבא, כדי שהוא יעבוד באמת והארגון שלכם לא ישלם ביוקר. ושאלה אחרונה למחשבה עד אז: מה קורה כשסוכן אחד בצוות טועה ומי אמור לשים לב? רוצים להציץ לפני הסדנה? הקוד פתוח וזמין. לפרטים נוספים ולהרשמה לכנס Future of AI של Lynx מבית אנשים ומחשבים לחצו כאן.

שנת הלימודים האקדמית תשפ"ז, שנפתחת השבוע, תהיה בסימן עלייה במספר הסטודנטים לתואר ראשון שלומדים בינה מלאכותית, מדעי הנתונים והנדסת נתונים. זאת, לצד ירידה במספר הסטודנטים למתמטיקה, סטטיסטיקה ומדעי המחשב. כך עולה מנתונים שמפרסמות הוועדה לתכנון ולתקצוב (ות"ת) והמועצה להשכלה גבוהה (מל"ג). על פי הנתונים, מספר הסטודנטים הלומדים בינה מלאכותית לתואר ראשון עלה השנה ל-2,259, לעומת 2,174 לפני שנתיים, בתשפ"ו – גידול של 3.9%. במקביל, מספר הסטודנטים למתמטיקה, סטטיסטיקה ומדעי המחשב ירד מ-22,203 ל-20,571 – קיטון של 7.4%. בשנה האחרונה אישרו המל"ג והות"ת תשעה מסלולים מואצים חדשים לפיתוח תוכניות לימוד בתחום הבינה המלאכותית, כאשר שישה מהם צפויים להתחיל לפעול כבר בשנה האקדמית הנוכחית. הירידה במספר הסטודנטים למדעי המחשב והעלייה במספר הלומדים בינה מלאכותית והנדסה משקפות את תגובת הצעירים לשינויים המהירים בענף ההיי-טק ולשינויים בביקוש לעובדים. לצד תוכניות הלימוד החדשות, מקדמת ה-ות"ת הרחבה של ההכשרות בתחום ה-AI במסלולים לתארים שני ושלישי, וכן מהלכים לקליטת סגל אקדמי בתחומים אלה. 490 מיליון שקלים לתשתיות מחשוב על ה-ות"ת אף אישרה תקציב של קרוב לחצי מיליארד שקלים – 490 מיליון – להקמת תשתית אקדמית למחשוב על בשנתיים הקרובות. מתוך התקציב, 15.4 מיליון שקלים יוקצו כבר השנה, במטרה לאפשר לחוקרות ולחוקרים גישה מסובסדת למשאבי מחשוב מתקדמים. במקביל, פועלות ועדות לגיבוש מדיניות לשילוב כלי בינה מלאכותית במחקר, בהוראה ובהערכה של הלמידה. פרופ' עמי מויאל, יו"ר ה-ות"ת, אמר כי "מערכת ההשכלה הגבוהה היא מנוע צמיחה לאומי, חברתי וכלכלי, וההון האנושי הוא המשאב החשוב ביותר של מדינת ישראל. בשנה האחרונה קידמנו מהלכים אסטרטגיים בתחומי המחקר, ההכשרה והנגישות להשכלה גבוהה, מתוך מחויבות לשמור על המצוינות ועל מעמדה הבין לאומי של ישראל". לדברי ד"ר מאיה לוגסי-בן חמו, מנכ"לית המל"ג, "פתיחת שנת הלימודים האקדמית תשפ"ז מבטאת את המשך הצמיחה של מערכת ההשכלה הגבוהה בישראל ואת תפקידה המרכזי בעיצוב עתידה של המדינה. בשנים האחרונות אישרנו תוכניות לימוד בתחומי הבינה המלאכותית ומדעי הנתונים, מתוך הבנה שתחומים אלה יעצבו את עולם התעסוקה ויאפשרו לבוגרים לרכוש כישורים ולהיערך לעתיד, המשתנה בקצב מהיר". יותר נשים בוחרות בלימודי הנדסה נתון נוסף מצביע על עלייה בשיעור הנשים הלומדות את מקצועות הנדסה: בשנת הלימודים הקרובה הן צפויות להוות 35.5% מכלל הסטודנטים בתחומים אלה. זאת, לאחר שבשנת הלימודים תשפ"ו נרשמה ירידה של 0.4% בנתון זה. כדי לעודד את המשך הגידול במספר הנשים הלומדות מקצועות הנדסה והיי-טק הקצתה ה-ות"ת תמריצים הכוללים מלגות, מענקים ופעילויות לחשיפת נשים לתחומי לימוד רלוונטיים. בסך הכול, צפוי מספר הסטודנטים והסטודנטיות במערכת ההשכלה הגבוהה לגדול ב-2.1% בשנה האקדמית הנוכחית – תוספת של 7,183 איש ואישה.

אמזון עורכת שינויים בהנהלת חטיבת ההתקנים והשירותים שלה, במקביל להשקת הטאבלטים הראשונים שלה המבוססים על אנדרואיד. דניאל ראוש, שעובד באמזון כבר 17 שנים ומשמש בשלוש השנים האחרונות כסגן נשיא למוצרי אלקסה ו-Echo, יעזוב את תפקידו עד סוף החודש. לפי החברה, ראוש צפוי לחזור במהלך 2027 לתפקיד אחר בחטיבת ההתקנים והשירותים. את מקומו יתפוס איידן מרקוס, שמכהן כיום כסגן נשיא לענייני Fire TV, פרסום וחנות האפליקציות של אמזון. מרקוס הצטרף לאמזון מ-מיקרוסופט בתחילת 2025, ובין היתר היה אחראי השנה להשקת מזרים המדיה המעודכן של החברה. קווין קית' יקבל אחריות נוספת את תחומי האחריות שמחזיק כיום מרקוס ימלא במקביל לתפקידו הנוכחי קווין קית', סגן נשיא למוצרים ולשיווק באמזון. השינויים מגיעים בזמן שאמזון מרחיבה גם את פעילות החומרה שלה. בסוף השבוע השיקה החברה את הטאבלטים הראשונים שלה המבוססים על אנדרואיד, שמציעים גישה ישירה לחנות האפליקציות של גוגל וכוללים כלי GenAI מעודכנים המבוססים על Alexa+, הזמינים לבעלי המנויים היקרים יותר. המהלך סביב הטאבלטים עשוי להשפיע גם על מקומה של חנות האפליקציות של אמזון במכשירי החברה, כעת כשהטאבלטים החדשים עוברים לסביבת אנדרואיד.

בשנים האחרונות התרגלנו לחשוב על הבינה המלאכותית כעל גאון שיושב בתוך חלון הצ'אט ומחכה להוראות. אנחנו שואלים, הוא עונה. מבקשים ממנו לכתוב, לנתח או לסכם – והוא נשאר בצד השני של המסך. אלא שהגבול הזה מתחיל להיעלם. סוכני AI כבר יכולים לקבל משימה, לתכנן בעצמם כיצד לבצע אותה, לגלוש באתרים, לאסוף מידע ואף לבצע פעולות באופן עצמאי. הגאון כבר לא נשאר בתוך חלון השיחה – הוא מתחיל לפעול בעולם הדיגיטלי. וכשזה קורה, גם אופי הסיכון משתנה לחלוטין. הסוכן כבר לא רק עונה – הוא פועל הדיווחים האחרונים סביב סוכני AI של OpenAI מראים שחלק מהתרחישים שעד לאחרונה דיברנו עליהם כאיום עתידי כבר מתחילים לקרות בפועל. לפי הפרסומים, סוכנים של החברה פעלו באתרים של גופי ממשל בארה"ב, ובהם הרשות לניירות ערך, הלשכה לסטטיסטיקה ומשרד החינוך, אספו מידע, השתמשו בפרטי גישה שנמצאו ברשת ואף ניסו להשיג גישה לא מורשית למערכת ממשלתית. האירועים האלה מעלים שאלה מטרידה הרבה יותר: אם סוכן AI מסוגל להגיע באופן עצמאי למערכות כאלה, מה יקרה כאשר יהיו לו הרשאות רחבות יותר – ומה הוא יוכל לעשות לפני שמישהו יבין שהוא חרג מהמשימה שקיבל? אחת הדרכים להבין את הסיכון הזה היא דרך מנגנון שנקרא Indirect Prompt Injection – הזרקת הוראות עקיפה. סוכן AI שנשלח לאתר כדי לאסוף מידע עלול להיתקל בתוך העמוד בהוראה שנשתלה על ידי גורם זדוני, לעיתים אפילו בטקסט שקוף או מוסתר שאינו נראה כלל לעין אנושית. מבחינת הסוכן, ההוראה הזאת יכולה להיראות כחלק לגיטימי מהתוכן שהוא אמור לעבד. אם הוא גם מחזיק בהרשאות לבצע פעולות, אותה הוראה עלולה לגרום לו לפתוח קובץ, לעבור לקישור אחר או לבצע פעולה עוינת שלא הייתה חלק מהמשימה המקורית. הסיכון כבר אינו רק אם המודל טועה כאן בדיוק משתנה אופי הסיכון. כשמודל טועה בתשובה, אפשר לזהות את הטעות ולתקן אותה. כשסוכן טועה תוך כדי פעולה, הוא עלול כבר להספיק לבצע סדרה של צעדים לפני שמישהו שם לב. ככל שהסוכן מחובר ליותר מערכות – מדואר אלקטרוני ומסמכים ארגוניים ועד מאגרי מידע ומערכות תשלום – כך גדל הנזק האפשרי. לכן הסיכון כבר לא נמדד רק בשאלה עד כמה המודל מדויק, אלא גם באילו הרשאות הוא מחזיק ולאילו מערכות חיברנו אותו. הפתרון אינו לעצור את מהפכת הסוכנים, וגם אין בכך טעם. האתגר הוא לאפשר להם לפעול, אבל בתוך גבולות ברורים. עבור חברות הפיתוח, המשמעות היא להפריד בין ה"עיניים" ל"ידיים": מודל שסורק את האינטרנט הפתוח והלא בטוח לא צריך להחזיק באותן הרשאות שמאפשרות לו לשלוח מידע, להוריד קבצים או לבצע פעולות במערכות רגישות. מי שקורא מידע לא מוכר, לא יכול להיות גם מי שמחזיק במפתחות. מפתח לחדר אחד – לא לכל הבית גם ארגונים ומשתמשים צריכים לפעול לפי עיקרון פשוט: לתת לסוכן מפתח לחדר אחד, לא לכל הבית. ברירת המחדל צריכה להיות מינימום הרשאות ואישור אנושי לפעולות רגישות. הסוכן יכול לאסוף מידע, להשוות מחירים או להכין טופס, אבל שליחת מידע, הורדת קובץ או העברת כסף צריכות להישאר תמיד בשליטה אנושית. במקביל, גם ממשלות ורגולטורים יצטרכו להתאים את עצמם לעידן החדש. אם סוכנים עצמאיים מסתובבים ברשת, חייבים להיות מסוגלים לזהות מי שלח אותם ומי אחראי לפעולתם. ייתכן שסוכני AI יצטרכו מעין "לוחית רישוי" דיגיטלית משלהם – חתימה מאומתת שתאפשר לזהות אותם ולחסום גישה בעת הצורך. המעבר מבינה מלאכותית שמייעצת לנו לבינה מלאכותית שפועלת עבורנו כבר החל. השאלה כעת אינה אם נשתמש בסוכנים האלה, אלא באילו תנאים נאפשר להם לפעול. ככל שניתן להם יותר עצמאות, נצטרך לוודא שמנגנוני הפיקוח והאחריות מתקדמים יחד איתם. ד"ר סתיו אלבר היא מהנדסת תוכנה ב-Google, מרצה ובוגרת הטכניון.