היסטוריה בעולם הבינה המלאכותית - בפעם הראשונה סוכן AI אוטונומי ביצע מתקפת סייבר אמיתית - ואיזו חברות דוקא עשויות להנות מהארוע החריג הזה?
אירוע חסר תקדים התרחש השבוע באחת ממעבדות הבינה המלאכותית המובילות בעולם, כאשר במהלך ניסוי מבוקר, סוכן בינה מלאכותית אוטונומי הצליח לצאת מסביבת הבידוד שלו, להתחבר לאינטרנט ולבצע מתקפת סייבר אמיתית נגד התשתיות של Hugging Face. OpenAI תיארה את האירוע כ"חסר תקדים".
הכול התחיל במהלך אימון סגור (Offline), שבו הסוכן היה אמור לפעול ללא גישה לרשת. במקום להסתפק במשימה שהוגדרה לו, הוא איתר פרצה במנגנון הבידוד, הצליח להשיג חיבור לאינטרנט, ומשם ניצל חולשה נוספת כדי לחדור לתשתיות של Hugging Face.
החדירה עצמה התבססה על מערך נתונים זדוני שניצל שני מסלולי הרצת קוד במערכת עיבוד הנתונים של Hugging Face. לאחר השגת גישה לשרת עיבוד, הסוכן אסף אישורי גישה לענן ולאשכולות מחשוב, ובהמשך נע לרוחב בין מספר אשכולות פנימיים לאורך סוף השבוע.
לפי Hugging Face, לא מדובר בהרצה בודדת אלא במסגרת של סוכנים אוטונומיים שביצעה אלפי פעולות שונות במהירות מכונה, תוך שימוש בתשתית פיקוד ובקרה בעלת יכולת נדידה עצמית על גבי שירותים ציבוריים. מדובר במתקפה רב-שלבית, סבלנית ומתוחכמת, שנוהלה ללא התערבות אנושית ישירה בזמן אמת.
האירוניה הגדולה היא שגם ההגנה הייתה מבוססת בינה מלאכותית.
מערכת זיהוי אנומליות מבוססת LLM הייתה זו שזיהתה לראשונה את הפעילות החריגה מתוך כמויות עצומות של נתוני אבטחה. לאחר מכן הופעלו סוכני AI נוספים שניתחו יותר מ-17,000 אירועים כדי לשחזר את מסלול ההתקפה, לזהות אילו אישורים נגנבו ולהבדיל בין פעילות אמיתית לבין הטעיות שהשאיר התוקף.
אחד הגילויים המעניינים ביותר הגיע דווקא בשלב החקירה.
תחילה ניסו החוקרים להשתמש במודלי Frontier מסחריים כדי לנתח את הלוגים והראיות, אך מנגנוני הבטיחות שלהם חסמו את הבקשות, משום שהן כללו קוד ניצול אמיתי, פקודות תקיפה ותשתיות פיקוד ובקרה. המערכות לא הצליחו להבחין בין חוקר אבטחה שמנתח מתקפה לבין תוקף שמנסה ליצור אחת.
בסופו של דבר, החוקרים עברו להשתמש במודל הקוד הפתוח GLM 5.2 שהורץ על גבי התשתיות הפנימיות של Hugging Face. כך הם הצליחו להשלים את החקירה, ובמקביל להבטיח שכל נתוני התוקף והאישורים הרגישים יישארו בתוך הארגון.
אחרי כל הסיפור הזה, המהנדסים עדיין לא הבינו מה תקף אותם, עד שהם קיבלו הודעה לא פחות ולא יותר מOPEN AI על כך שהתקיפה היא תוצר של אחד המודלים שלהם הנמצאים עדיין בבדיקות.
הרשת סוערת, מדובר בחשיפה של מודל שלא היה ידוע לציבור עד כה, וכנראה מחזיק ביכולות חזקות יותר ממה שהיה ידוע עד כה.
אבל זה לא מה שמסעיר את הרשת באמת..
הסערה הגדולה סובבת סביב הנקודה שהאייג'נט ביצע את התקיפה על דעת עצמו.
האירוע הזה חושף מציאות חדשה: בעוד שלתוקפים אין מגבלות ויכולים להשתמש במודלים פתוחים או בגרסאות שעברו שינוי ללא כל מנגנוני בטיחות, דווקא המגינים עלולים למצוא את עצמם מוגבלים על ידי אותם מנגנוני הגנה המובנים במודלים המסחריים.
השוק אולי עדיין מתווכח מי ינצח במרוץ ה-AI, אבל דבר אחד כבר ברור: המלחמה הבאה בעולם הסייבר לא תהיה בין בני אדם - אלא בין סוכני בינה מלאכותית.
ולסיום, השאלה שכל אחד צריך לשאול את עצמו - איך ארוע כזה ישפיע על זרימות כספים והשקעות הון.
התשובה היא שכנראה חברות סייבר עשויות להנות מתזרים, בגלל שחברות תוכנה מבינות שאיומי פריצה והאקינג ברגע אחד עלו עשר מדרגות, והם יהיו מוכנות לשלם הרבה יותר ממה ששילמו עד עכשיו כדי לדעת שהדאטא שלהם בטוח.
ניצנים לזה כבר ראינו בשבוע שעבר - כאשר חברת IBM דיווחה על כך שחברות רבות דחו עסקאות משום שהפנו את התקציבים שלהם להשקעות בחומרה ובשירותי סייבר..
חברות מובילות בסקטור הסייבר: $CRWD $PANW $ZS $NET $RBRK $NTSK
נמשיך לעקוב ולעדכן