OpenAI חשפה כי במהלך ניסוי פנימי לבחינת יכולות סייבר התקפיות של מודלי בינה מלאכותית של החברה, שניים מהמודלים שפיתחה הצליחו לצאת מסביבת בדיקות מבודדת ולחדור לתשתיות של פלטפורמת הקוד הפתוח Hugging Face. לפי החברה, המודלים פעלו במטרה אחת: להשיג את פתרונות מבחן הסייבר שבו השתתפו, במקום לפתור אותו בעצמם.
● מענה לפייק ניוז בבחירות? אנבידיה השיקה כלי לזיהוי סרטונים שנוצרו על-ידי AI
● החברה הסינית שטוענת: מתקרבים ל-OpenAI ולאנתרופיק
לדברי OpenAI, מדובר במודל GPT 5.6 Sol, הזמין לציבור, ובמודל מתקדם יותר שטרם הושק. במסגרת הניסוי הוסרו באופן יזום חלק ממנגנוני ההגנה המגבילים את יכולות הסייבר של המודלים, כדי לבחון כיצד יתמודדו עם מבחן פנימי בשם ExploitGym, שנועד למדוד את יכולותיהם באיתור ובניצול חולשות אבטחה.
במהלך הניסוי הצליחו המודלים לנצל חולשת "יום אפס" - כלומר פירצת אבטחה שטרם הייתה מוכרת למפתחי התוכנה ולכן עדיין לא תוקנה, בתוכנת צד שלישי שפעלה בתוך סביבת הבדיקות. באמצעותה הם יצאו מסביבת הבידוד והשיגו גישה לאינטרנט. לאחר מכן זיהו כי Hugging Face עשויה לאחסן נתונים הקשורים למבחן, ובהם מודלים, מערכי נתונים ופתרונות.
לפי OpenAI, המודלים שילבו כמה שיטות תקיפה, ובהן ניצול פירצת האבטחה ושימוש בפרטי גישה שנגנבו, עד שהצליחו להגיע למסד הנתונים שבו נשמרו פתרונות המבחן.
עלייה ביכולות הסייבר של מודלי ה-AI
Hugging Face מצידה מסרה כי המתקפה בוצעה באמצעות מערכת אוטונומית המבוססת על סוכני AI, שביצעה עשרות אלפי פעולות באופן עצמאי במהלך סוף שבוע אחד. לאחר חקירת האירוע הצליחה החברה לשחזר יותר מ-17 אלף אירועים שתועדו בזמן החדירה.
לפי ממצאי החקירה, המתקפה החלה כאשר הסוכן ניצל קובץ זדוני שהפעיל שתי חולשות במערכת עיבוד הנתונים של החברה ואיפשר לו להריץ קוד על שרתיה. בהמשך הסוכן הצליח להרחיב את הרשאות הגישה שלו ולעבור בין מערכות פנימיות נוספות.
ב-OpenAI הגדירו את האירוע כ"תקרית סייבר חסרת תקדים" ואמרו כי הם מפרסמים כבר כעת את הממצאים הראשוניים כדי לסייע לקהילת אבטחת המידע להבין את רמת היכולות שאליה הגיעו מודלי הבינה המלאכותית המתקדמים. לדבריהם, המודלים הפכו במהלך המשימה ל"ממוקדי מטרה" ופעלו באופן עצמאי כדי למצוא דרך לעקוף את מגבלות סביבת הבדיקות ולהשיג כאמור את פתרונות המבחן.
האירוע הנוכחי מגיע בתקופה שבה חברות הבינה המלאכותית מזהירות מפני העלייה ביכולות הסייבר של מודלי הדור הבא. עם זאת, מומחי אבטחת מידע סבורים כי הכשל במקרה הזה נבע בראש ובראשונה מחולשה בתשתית האבטחה ולא מהבינה המלאכותית עצמה. לדבריהם, העובדה שהמודלים הצליחו להגיע לאינטרנט דרך רכיב שהיה מחובר לרשת מצביעה על כך שסביבת הבידוד לא הייתה אטומה לחלוטין.
OpenAI מסרה כי היא ממשיכה לחקור את האירוע בשיתוף Hugging Face, וכי תפרסם בהמשך פרטים נוספים על פירצת האבטחה, אופן התקיפה והמסקנות מהחקירה.
