הסטארט-אפ הישראלי, אירגיולר, מצא את עצמו בימים האחרונים במרכזו של דיון עולמי על הסכנות של מודלי בינה מלאכותית. כתבה שפורסמה היום ב־CNBC קשרה בין החברה לבין שלושה מקרים שעליהם דיווחו OpenAI, אנתרופיק ומטא . בכל אחד מהם הצליח מודל בינה מלאכותית לגשת לאינטרנט במהלך בדיקת סייבר, אף שהניסוי היה אמור להתקיים בסביבה סגורה.
● פוטרתם מההייטק? זה מה שכדאי לכם לעשות עכשיו
● בית המשפט בארה"ב מעכב את הליכי הגבייה נגד פאפאיה גיימינג
אירגיולר מתמחה בבדיקת מודלים מתקדמים לפני השקתם. היא מאפשרת למפתחות המודלים לבדוק אם המערכות שלהן מסוגלות לזהות חולשות אבטחה, לעקוף הגנות או לבצע פעולות שעלולות לשמש תוקפים. כדי למנוע פגיעה במערכות אמיתיות, הבדיקות נערכות בסביבה שאמורה להיות מבודדת מהאינטרנט.
אלא שבמקרים האחרונים התברר כי ההפרדה לא הייתה מלאה. לפי אירגיולר, שלוש התקריות נבעו מאותה בעיה בסביבת הבדיקה, שהתגלתה לראשונה בידי אנתרופיק. החברה הדגישה כי המודלים לא פרצו מתוך מערכת בידוד וכי לא מדובר במתקפת סייבר מתוחכמת. לדבריה, התקלה טופלה ואין כיום בעיות פתוחות.
המודלים מצאו פתח לאינטרנט
OpenAI מסרה בתחילת אוגוסט, כי הגדרה שגויה בסביבת הניסוי אפשרה למודלים שלה לגשת לאינטרנט הציבורי. אנתרופיק דיווחה קודם לכן, כי במהלך בדיקת הנתונים התעורר חשד שמודל קלוד שלה התחבר לאינטרנט, ובהמשך עדכנה את אירגיולר. מטא הייתה האחרונה שחשפה מקרה דומה. החברה מסרה כי למדה על האירוע מאירגיולר וכי היא עדיין חוקרת אותו. לדבריה, היא תפרסם בדיקה מלאה לאחר שתשלים את איסוף העובדות.
האירועים לא בהכרח מלמדים שהמודלים החליטו על דעת עצמם לצאת ולתקוף מערכות. הם קיבלו משימה לחפש חולשות אבטחה וניסו להשלים אותה, אך בדרך מצאו אפשרות שלא הייתה אמורה לעמוד לרשותם. עם זאת, המקרים הללו ממחישים עד כמה קשה לצפות מראש כיצד יפעלו מודלים מתקדמים כשהם מקבלים משימה יחסית רחבה.
מומחים שצוטטו ב־CNBC טענו כי הפרשה זכתה לפרשנות דרמטית מדי. לדבריהם, המודלים נשלחו מלכתחילה לחפש חולשות בסביבה המדמה את העולם האמיתי, ולכן אין זה מפתיע שהם הצליחו לזהות הגדרה שגויה ולנצל אותה. עם זאת, לדבריהם, ניטור של הפעילות היה עשוי לזהות את החיבור לאינטרנט ולאפשר את עצירת הניסוי בזמן. אירגיולר מסרה כי בכוונתה לפרסם מסמך שיסכם את הממצאים ויציג המלצות לביצוע בטוח של בדיקות סייבר למודלים. OpenAI ואנתרופיק הודיעו כי הן ממשיכות לעבוד עם החברה ותומכות בבדיקה המתנהלת.
שותפה של ענקיות הבינה המלאכותית
אירגיולר הוקמה בשנת 2023 תחת השם Pattern Labs בידי דן להב, המשמש מנכ"ל החברה, ועומר נבו, סמנכ"ל הטכנולוגיות. השניים הם בעלי תואר שני במדעי המחשב והכירו במסגרת תחרויות דיבייט. להב עסק בעבר במחקר בינה מלאכותית ב־IBM, ונבו עבד במחלקת המחקר של גוגל. החברה מגדירה את עצמה כמעבדת סייבר. עובדיה מקבלים גישה למודלים שנמצאים עדיין בתהליכי פיתוח, מנסים להבין כיצד ניתן להשתמש בהם לרעה ומאתרים חולשות לפני שהמודלים מגיעים לשוק. לפי החברה, עבודתה כבר השפיעה על בדיקות של מודלים מבית OpenAI, ובהם GPT 5, GPT 4, o3 ו־o4 mini, וכן על Claude 4 של אנתרופיק. המערכת שלה הגיעה גם לדיפמיינד, מעבדת הבינה המלאכותית של גוגל.
בספטמבר אשתקד הודיעה אירגיולר על גיוס של 80 מיליון דולר בהובלת קרנות ההון סיכון סקויה ורדפוינט. בסבב השתתפו גם קרן Swish של עומרי כספי, מנכ"ל וויז אסף רפפורט ומנכ"ל EON אופיר ארליך. לפי CNBC, החברה הוערכה אז בשווי של 450 מיליון דולר. על פי פיצ'בוק, והיא מעסיקה כ-35 עובדים.
אחד האיומים שאירגיולר מנסה למנוע הוא גניבת יכולות ממודלים קיימים. באמצעות הצגת שאלות רבות למודל אפשר לנסות לחלץ מידע על אופן פעולתו, ולהשתמש בתשובות כדי לשפר מודל מתחרה. חשד כזה עלה סביב דיפסיק הסינית, שלפי טענות בתעשייה השתמשה בתוצרים של מודלים אמריקאיים כדי לפתח את המערכות שלה.
האירועים האחרונים ממחישים את המורכבות של התחום שבו פועלת אירגיולר. כדי לגלות מה מודל מסוגל לעשות, צריך להעמיד אותו בפני משימות שדומות ככל האפשר למצבים אמיתיים. אלא שככל שהניסוי הופך למציאותי יותר, גדל גם הסיכון שהמודל יחרוג מהגבולות שנקבעו לו.
כך, הפרסום הנוכחי ב־CNBC מעניק לאירגיולר חשיפה יוצאת דופן, לאחר ששמה הוזכר כאמור בתוך שבועיים בדיווחים של שלוש מחברות הבינה המלאכותית הבולטות בעולם. עם זאת, OpenAI ואנתרופיק מסרו כי הן ממשיכות לעבוד עמה במסגרת בדיקת האירועים. עוד לפי CNBC, אירגיולר נמנית כיום עם מספר מצומצם של גופים בעולם שמסוגלים לבצע בדיקות סייבר מתקדמות למודלי בינה מלאכותית. לצדה פועלים בתחום גם ארגוני המחקר METR ו־Apollo Research.
