מודל בינה מלאכותית נוסף פרץ לחברות במהלך תרגיל סייבר

מודל הבינה המלאכותית של גוגל, ג'מיני, פרץ למערכות של חברות במהלך תרגיל לבחינת את יכולות הסייבר שלו. כך דווח לראשונה בוול סטריט ג'ורנל בלילה בין שישי לשבת.

● בתוך העולם הדיסטופי המזוהם של מרכזי הנתונים
● אנתרופיק מציגה: 3 מדדים שיסייעו לחברות AI לעקוב אחר קצב הפיתוח

הפריצות, שאותן אישרה החברה ביום שישי, התרחשו בחודש מאי בזמן שהמודל השתתף בניסוי שנערך על תשתית השייכת לסטארט-אפ הישראלי אירגיולר. זוהי הפעם הראשונה בה נחשף שהמודל של גוגל מעורב בפריצות מסוג זה.

לפי הסטארט-אפ, אף שהמודל לא היה אמור להיות מסוגל להתחבר לאינטרנט, גישה לאינטרנט התאפשרה לו בטעות. באחד המקרים, המודל הצליח לנחש סיסמה ולגשת לשירות של החברה האמיתית, מסרה גוגל. לאחר מכן הוא הבין כי ניגש לחברה אמיתית, עצר את עצמו ויצא מהמערכת.

אירגיולר דיווחה לגוגל על הפריצות בסוף חודש יולי בעקבות חשיפת הפריצה של מודל הבינה המלאכותית של openAI לחברת Hugging Face, אך גוגל לא פרסמה את המקרים עד הפניה של הג'ורנל.

לפי דיווחים בתקשורת העולמית, מאירגיולר נמסר כי התקרית קשורה לאותה בעיה שהשפיעה גם על מעבדות AI אחרות, וכי "כל הבעיות שהיו ידועות טופלו ונפתרו כבר לפני כמה שבועות".

כזכור, הסטארט-אפ הישראלי היה מעורב בתקריות פריצה דומות שנחשפו בתחילת חודש אוגוסט ב־CNBC.

ב-CNBC קשרו בין הסטארט-אפ לבין שלושה מקרים שעליהם דיווחו OpenAI, אנתרופיק ומטא. בכל אחד מהם הצליח מודל בינה מלאכותית לגשת לאינטרנט במהלך בדיקת סייבר, אף שהניסוי היה אמור להתקיים בסביבה סגורה.

ברקע: קריאה להאט את הפיתוח

חשיפת הג'ורנל מגיעה רק כשבוע לאחר הקריאה של מנכ"ל אנתרופיק דריו אמודיי להאט את הקצב שבו חברות בינה מלאכותית משפרות את יכולות המודלים שלהן.

המאמר של אמודיי התפרסם לאחר שג'ייקובס וקוקסון, חוקר באנתרופיק שעבד בעבר גם כחוקר ב-OpenAI, עורר סערה ברשתות החברתיות כשפרסם כי התפטר מאנתרופיק, ויצא בביקורת חריפה נגד שתי החברות. "אף אחת מהחברות אינה פועלת באחריות. הן דוהרות היישר לעבר בינת־על שמשפרת את עצמה, ומהמרות על החיים שלנו", כתב בפוסט ברשת X .

עוד הוא כתב "אל תמעיטו בעוצמתה של הטכנולוגיה הזאת". לדבריו, המערכות עשויות בקרוב לעלות על היכולות האנושיות, לפרוץ למערכות מחשוב, לחולל שינויים מהירים בתחומי ידע ולצבור כוח ומשאבים.

עם התרבות מקרי הפריצה והחששות שהטכנולוגיה תצא משליטה, חברות מתמודדות עם השאלה כיצד ומתי לחשוף מקרים של פרצות אבטחה והתנהגות בלתי תקינה של מודלים.

מגוגל נמסר לג'ורנל כי החברה לא סבורה שהפריצות מצדיקות חשיפה פומבית - משום שהמודל לא גרם נזק לחברות והפסיק כל חדירה מיד לאחר שקבע כי פרץ למערכת של חברה אמיתית ולא למערכת מדומה.

"האירוע הזה מדגיש את החשיבות שבהכשרת מודלים עוצמתיים של בינה מלאכותית לפעול באחריות", צוטטה בג'ורנל הת'ר אטקינס, סגנית נשיא להנדסת אבטחה בגוגל. "במקרה הזה, המודל פעל כראוי".

ג'ק קייבל, מנכ"ל חברת הסטארט־אפ לאבטחת AI Corridor והאקר "כובע לבן", כתב שלדעתו ההסבר של גוגל מתעלם מהבעיה האמיתית, והיא שסוכן בינה מלאכותית פרץ למערכות של חברה אחרת. לפי גוגל, הפריצות של ג'מיני נבעו מטעות בזיהוי.