המודלים השתוללו ואלופי הדיבייט מתל אביב תפסו כותרות ראשיות בעולם

להפוך לשם דבר בזירה הבינלאומית וללכוד את תשומת הלב של תעשיית הטק העולמית הם החלום הגדול של כל סטארט-אפ ישראלי. אלא שעבור חברת הטכנולוגיה אירגיולר (Irregular) מתל אביב, העניין הבינלאומי הגיע בנסיבות מחמיאות פחות. במקום לחגוג אקזיט נוצץ או גיוס ענק, מצאה את עצמה החברה הקטנה, שמעסיקה כ־50 עובדים בלבד, בלב סערה תקשורתית עולמית.

● בדרך לאקזיט הענק: מפקד 8200 לשעבר והמשקיעים הסדרתיים שירוויחו
● דיווח: אנתרופיק במגעים לרכישת דקארט הישראלית ב־6 מיליארד דולר

בשבועות האחרונים תפסה אירגיולר את הכותרות בכלי תקשורת פיננסיים מובילים כמו CNBC ובלומברג, כשהיא מוזכרת בשורה אחת לצד ענקיות הבינה המלאכותית OpenAI, אנתרופיק ומטא. הדיווחים התמקדו בתקלה שאפשרה למערכות ה־AI להתפרץ אל מחוץ לגבולות המבדקים בסביבת הניסוי הסגורה ולגשת לאינטרנט הציבורי. האירוע הציף מחדש את שאלת הסיכונים ואמינות הטכנולוגיה, אך מאחורי הקלעים - בתוך מסדרונות החברה - התרחשה דרמה מסוג אחר לגמרי, כזו שהפכה במהירות מסיפור של משבר להזדמנות הגדולה ביותר בתולדותיה.

דרמה בחדרים הסגורים

הרגעים הראשונים של האירוע החריג תפסו את אנשי אירגיולר בעיצומו של גל עבודה מאומץ. הניסויים שבוצעו עבור מעבדות ה־AI המובילות בעולם כללו הרצות חוזרות ונשנות של מאות הערכות - נפחי מידע עצומים, שרובם עוסקים בתרחישים כלליים של תקיפת מערכות. אלא שבתוך ים הנתונים צצה לפתע אינדיקציה חריגה - משהו שלא אמור היה לקרות, קרה.

באותו רגע, אף אחד בחברה או במעבדות השונות לא ידע להעריך את פשר האירוע. בהיעדר כלי ניטור מתאימים עברה הדרמה לחדרים הסגורים, וימים ארוכים הוקדשו לניסיון להרכיב את הפאזל - כשכל מעבדה חוקרת את החלק שלה, ומעל הכל מרחף החשש שמא מדובר באירוע ענק שגרם לנזק אמיתי מתחת לרדאר.

החוקרים החזיקו ביומני לוגים ובתמלולים המתעדים בזמן אמת את "דפוסי החשיבה" של המודלים - סוג דאטה חדש לחלוטין. השאלה אם מותר משפטית לשתף את המידע הזה עם המעבדות דרשה מעורבות צמודה של עורכי הדין מכל הצדדים. גם כשהתמונה התבהרה, האווירה נותרה דרוכה - אנשי המקצוע הבינו כי מדובר באיום מסוג חדש, שהכלים הטכנולוגיים הקיימים פשוט אינם ערוכים להתמודד איתו.

החשש המרכזי אמנם התפוגג כשהתברר כי הנזק נמנע והתקלה הייתה נקודתית, אך האירוע יכול היה להסתיים אחרת לגמרי. התברר כי לא מדובר במתקפת סייבר או בניצול חולשה במערכת (בניגוד לאירוע שהתרחש בעבר בפלטפורמת Hugging Face), אלא בטעות הגדרה (מיסקונפיגורציה) בסביבת הבדק. המודלים נדרשו לחפש חולשות אבטחה, וכחלק מניסיונם להשלים את המשימה מצאו פרצה שלא הייתה אמורה לעמוד לרשותם, ודרכה יצאו לראשונה אל האינטרנט הפתוח.

מתחרות דיבייט - לפסגה

כדי להבין איך חברה קטנה מתל אביב מצאה את עצמה במרכז הדיון העולמי, צריך לחזור לראשית דרכה. אירגיולר הוקמה בשנת 2023 תחת השם Pattern Labs בידי המנכ"ל דן להב וסמנכ"ל הטכנולוגיות עומר נבו. השניים, בעלי תואר שני במדעי המחשב, הכירו בתחרות דיבייט. נבו הוא אלוף עולם בדיבייט וללהב הדירוג האישי הגבוה ביותר בהיסטוריית האליפות. בעבר חקר להב בינה מלאכותית ב־IBM, ונבו עבד במחלקת המחקר של גוגל.

השניים הגדירו את החברה כמעבדת סייבר המתמחה בבדיקת מודלים מתקדמים עוד לפני השקתם. עובדי החברה מקבלים גישה למודלים בפיתוח, בוחנים אותם בסביבה מבודדת המכונה "SandBox" (ארגז חול) ומאתרים חולשות עוד לפני הגעתם לשוק כדי למנוע שימוש לרעה. בחברה מעידים כי עבודתם השפיעה רבות על מודלים מבית OpenAI ואנתרופיק, לצד DeepMind של גוגל.

בספטמבר אשתקד הודיעה אירגיולר על גיוס של 80 מיליון דולר בהובלת קרנות ההון סיכון סקויה ורדפוינט. בסבב השתתפו גם קרן Swish של עומרי כספי, מנכ"ל וויז אסף רפפורט ומנכ"ל EON אופיר ארליך. לפי הערכות, הסטארט-אפ נסחר אז לפי שווי של 450 מיליון דולר.

המיקום הייחודי הזה יצר בחברה תחושת פער היסטורית שבה חיו העובדים במשך תקופה ארוכה. 35 העובדים חשו כי הם נחשפים ליכולות עוצמתיות ויוצאות דופן של המודלים - יכולות שנותרו מתוחמות לשיחות בין חמש מעבדות ושלוש ממשלות ברחבי העולם, בשעה שהעולם שבחוץ נותר אדיש מכיוון שלא הכיר את המידע. החריגה והסערה התקשורתית שהגיעה בעקבותיה החלו לצמצם את הפער הזה בבת אחת.

הביקורת: היעדר שקיפות

החשיפה ב־CNBC עוררה גל של ביקורת מצד מומחי סייבר וגורמים בתעשייה, והציפה מחדש את השיח הציבורי סביב הפיקוח על AI. מומחים מתחו ביקורת על הסתמכות היתר של השוק על פתרונות חסימה, והזהירו כי חברות פועלות מתוך אשליה שניתן "להכיל" או למנוע לחלוטין בריחת מודלים באמצעות כלי אבטחה נקודתיים, במקום להיערך לניהול הסיכון ברמה הארגונית.

ביקורת מרכזית נוספת נגעה להיעדר השקיפות וחובת הדיווח. כיום החוק אינו מחייב חברות לדווח על תקלות בסביבות ניסוי לרגולטור, והאירועים הגיעו לידיעת הציבור רק בעקבות הודעות וולונטריות של OpenAI, אנתרופיק ומטא. גורמים בתעשייה קוראים כעת להידוק הפיקוח ולהגברת השקיפות, זאת לצד עצומות הדורשות להאט את קצב הפיתוח.

אף על פי כן, התקלות לא פגעו במעמדה של אירגיולר בעיני ענקיות ה־AI. ב־OpenAI ובאנתרופיק מיהרו להבהיר כי הן ממשיכות לעבוד עם החברה, וב־CNBC ציינו כי אירגיולר נמנית עם הגופים המעטים בעולם שמסוגלים לבצע בדיקות סייבר מתקדמות מסוג זה.

בתוך מסדרונות החברה, הדריכות והמתח הראשוניים התחלפו במהירות בתחושת הזדמנות. הכתבות והביקורת מבחוץ אמנם חשפו עולם חדש, אך התחושה בקרב העובדים הייתה שדווקא דרך המשבר הבין העולם עד כמה הכלים הללו חיוניים - ומי באמת נמצא שם כדי להגן עליהם.

כעת, באירגיולר לא מסתפקים בסגירת הפינות הטכניות ובפתרון התקלה הנקודתית, אלא שוקדים על נייר עמדה טכנולוגי (White Paper) ומחקרים ארוכי טווח שיציבו סטנדרט חדש לשליטה בבינה מלאכותית בסביבות סגורות. למרות הכותרות המורכבות בעיתונות העולמית, לגלובס נודע כי בשטח קרה בדיוק ההפך מהמצופה - החברה חוותה גל של פניות מגורמים בתעשייה, התעניינות גוברת מצד לקוחות פוטנציאליים וזינוק במספר המועמדים שביקשו להצטרף. התקלות האחרונות, שהחלו כאירוע תקשורתי מביך, הפכו בתוך החברה להזדמנות האדירה בתולדותיה.