במהלך השבת הצטרפה גוגל למקהלת ענקיות ה- AI שהודיעו כי מודל הבינה המלאכותית המתקדם שפיתחו נתפס כשהוא מנסה לפרוץ לחברות אמיתיות - בהצתה מאוחרת, לאחר OpenAI ואנתרופיק הודיעו על אותה הבעיה לפני כחודש. שלוש החברות עשו זאת תוך מתן קרדיט - או הפניית אצבע מאשימה - לחברה הישראלית אירגיולר (Irregular), שפיתחה סביבת אבטחת מידע סגורה לכאורה המאפשרת למודלי השפה החזקים ביותר - בהם מיתוס של אנתרופיק או אסטרה של OpenAI - להתנסות במעשים הכי חמורים שהם יכולים לבצע.
● סירי המשופרת כבר פה. האם אפל עומדת בציפיות?
● המחליף של באפט: חקלאי, צלם ופילנתרופ
במילים אחרות, הסביבה הישראלית, שחוסכת לענקיות ה-AI מאות אנשי אבטחה שמבצעים בדיקות ידניות - מאפשרת למודלים להתפרע בתוך הסביבה האטומה לכאורה שלה, במה שמכונה בשפה המקצועית כ"ארגז חול" (Sandbox) - כדי לבדוק את הסכנות והחולשות שהן מביאות איתן. כפי שהתברר בשבועות האחרונים מאז הדיווח הקודם - סוכני ה- AI המתקדמים של ענקיות הבינה המלאכותית פועלים לא פעם על דעת עצמם, עוקפים כללים ומחסומים ומתאים אלה עם אלה מתקפות - אם כי טרם תועדו מתקפות אוטונומיות מסוכנות שיד אדם לא היתה מעורבת בהם.
פרסומת חינם בלב המשבר: רשימת הלקוחות של אירגיולר נחשפת
ובכל זאת, טוב עשו ארבע ענקיות הטכנולוגיה שהודו ביכולת הזדונית של המודלים שלהם - ובכך שהפנו חלק מהאחריות גם למעבדה הישראלית "אירגיולר" שהקימו היזמים דן להב ועומר נבו ולה גייסו 80 מיליון דולר ממשקיעי צמרת כמו קרן סקויה, רדפוינט, אסף רפפורט ועומרי כספי. ההצטרפות של גוגל לקבוצת החברות שמודות כי המודלים שלהם "ברחו" מהקופסה השחורה של אירגיולר, מהווה בפועל מודעת פרסום חינמית נוספת שממנה נהנית החברה הישראלית. לא בגלל הנזק שאירע - בגוגל טוענים שהנזק נמנע לאחר שהמודל שלה הבין שהוא פורץ לאתר של חברה אמיתית - אלא בגלל העובדה שרשימת הלקוחות של אירגיולר רק הולכת ונחשפת - ואלה הלקוחות הגדולים ביותר שניתן להעלות על הדעת. גם אם נראה שתדמיתה של אירגיולר רק הולכת ונסדקת עם עוד לקוח שיוצא לאור ומחלק איתה את האחריות על מודלי השפה הסוררים - ההסבר למעשה טמון באותו האירוע שאירע כבר בחודש יולי השנה.
אירגיולר קימצה במידע על הפריצה ורק מסרה כי "מדובר באותו אירוע נקודתי שכבר דווח בעבר ולא באירוע נפרד ומהותי. כל מעבדות ה- AI הרלוונטיות עודכנו בסוף יולי וכל הבעיות הידועות שהיו בצד שלנו טופלו ונפתרו כבר לפני מספר שבועות". אלא שאחד מחוקרי החברה הרחיב על כך בתגובה ברשת אקס: "בין יתר הדברים שאנחנו עושים, יצרנו סט אתגרים שמדמים חברות אמיתיות ואנחנו נותנים למודלים הכי מתוחכמים בעולם, כאשר הם פועלים בהגדרות הכי מאפשרות שלהם, להדגים כמה רחוק הם יכולים להגיע כאשר נותנים להם אתגרי אבטחת מידע מורכבים. בחלק מהאתגרים הללו הגישה לאינטרנט הכרחית על מנת לאפשר למודלים לפעול במלוא היכולת שלהם. באחד מהאתגרים הייתה גישה לא מכוונת לאינטרנט ומדובר באותה תקלה נקודתית כמו באירועים הקודמים שפורסמו לפני חודשיים, וכמובן שהבעיה תוקנה מאז. הסנדבוקס שלנו דווקא מחזיק מעמד יופי".
הכשל הכפול: כך ג'מיני יצא מהמרחב המוגן למתקפה אוטונומית
במקרים המדווחים בגוגל - כפי שאירע גם במטא , אנתרופיק ו-OpenAI - התקיימו שני כשלים: המודל תירגל פריצה לאתר כלשהו בעל שם פיקטיבי, אלא שבאופן אוטונומי הוא איתר חברה אמיתית בעלת שם דומה וניסה לפרוץ אליה. הכשל השני כלל, כפי שציין אותו עובד באירגיולר, נקודת יציאה מהמרחב הדיגיטלי המוגן לרשת האינטרנט שלא הוגדרה במקומה. במקרה של גוגל, ג'מיני תקפה את אחד האתרים על ידי ניחוש ססמאות סדרתי עד קבלת גישה למערכת המוגנת, ובמקרה אחר מצא המודל פרטים מוכמנים של שם משתמש וססמה, שאפשרו לו לנסות ולפרוץ לשני ארגונים אחרים. גוגל טוענת שנזק לא נגרם וכי היא עצרה את הפריצה עוד לפני שזו הספיקה לגבות מחיר.
מקרה דומה קרה לאירגיולר גם עם אנתרופיק, יצרנית קלוד וגם כמה מהמודלים העוצמתיים ביותר שנבדקו באירגיולר - פייבל ומיתוס. בבלוג של אירגיולר הסבירו כבר לפני כחודשיים בילבול בכתובת של אתר אינטרנט חיצוני הביא לכשל. הרשומה בבלוג ייחסה את הכשל במרומז לגורם האנושי וטענה שכתובת האתר האמיתי לא הייתה ידועה והקשר בינה לבין החברה לא זוהה בסקירה הראשונה שלה. במקרה אחר העלה המודל של אנתרופיק העלה בטעות חבילת קוד פייתון זדונית לספריה שהביאה אתרים אחרים להוריד אותן. האשם, הוא, כאמור, באותה דלת אחורית שהושארה פתוחה ואפשרה למודל לצאת החוצה מהקופסא השחורה המוגנת - החוצה. במקרה זה מפנים האחראים את הבעיה לא רק כלפי עצמם, אלא גם כלפי תצורת המערכת של אנתרופיק שהביאה להתנהגות הזדונית של המערכת - ובמשתמע, במי שפיתח את אותה התצורה.
בכל המקרים הללו, לא נרשמו נזקים חמורים - ואולי זו הסיבה שהחברות המדוברות - גוגל, אנתרופיק או אירגיולר עצמה - הרשו לעצמן להתייחס למקרים האלה ללא חשש. בגוגל התגאו במיוחד שהמודלים הפסיקו את פעילותם כאשר הבינו כי פרצו לאתרים אותנטיים. דווקא המודל המתקדם פחות של אנתרופיק, אופוס 4.7 המשיך בתקיפה לאחר שהבין את הטעות, אך מודל מיתוס 5 המתקדם יותר עצר את עצמו בפרץ.
הבעיה טמונה לא רק בכך שחברה אחת משרתת כ"ארגז החול" של כל יצרניות המודלים האמריקאיות הגדולות, אלא בכך שחברות משחררות הודעות על מודלים סוררים בהתנדבות: הן קובעות את התנאים, הקריטריונים והתזמון לשחרור ההודעה. כך קרה שגוגל הרשתה לעצמה לתאר מקרה שקרה כבר לפני חודשיים, באירוע שכבר דווח עליו על ידי שתיים מהמתחרות הגדולות שלה. ואם להאמין לבכירי החברות - ובפרט לדריו אמודאי, מנכ"ל אנתרופיק וסאם אלטמן, מנכ"ל OpenAI, השליטה על מודלי השפה איננה מוחלטת ועשויה להפתיע לרעה. כשאין רגולציה ואין סטנדרט - השקיפות היא סלקטיבית, וזאת בענף שהפך את עורו ממיזם מדעי למכונת מזומנים מסחרית. קריאתו של טראמפ לזנוח את השיקולים המוסריים סביב פיתוח בינה מלאכותית בשל חשש מיתרון סיני, מבטיחה שהתעשייה תמשיך להתנהל באופן שכזה גם בשנים הקרובות.
לתשומת לבכם: מערכת גלובס חותרת לשיח מגוון, ענייני ומכבד בהתאם ל
קוד האתי
המופיע
בדו"ח האמון
לפיו אנו פועלים. ביטויי אלימות, גזענות, הסתה או כל שיח בלתי הולם אחר מסוננים בצורה
אוטומטית ולא יפורסמו באתר.
כתבות
ני"ע
