אנתרופיק / צילום: Shutterstock
המרוץ של ענקיות הבינה המלאכותית חצה בשבועות האחרונים קו שהצית גל של פאניקה בוול סטריט. חשיפת מודל "מיתוס" (Mythos) של חברת אנתרופיק - מנוע אוטונומי שמצליח לאתר אלפי פרצות אבטחה ללא מגע יד אדם - מחקה בתוך ימים מאות מיליארדי דולרים משוויין של ענקיות התוכנה והסייבר. בזמן שמהנדסים מנסים להבין כיצד המודל הצליח להתמודד עם פרצות ואתגרים מורכבים, המשקיעים כבר שואלים שאלה קיומית אחת: האם ה-AI עומדת להפוך את תעשיית הסייבר כפי שהכרנו אותה למיושנת, ואחריה גם תעשיוות נוספות.
● המשקיע המפורסם הפיל מניה, ואז הגיע טראמפ
● משחק חוזר: פלייטיקה שוב מחפשת רוכש לאחר שאיבדה 90% מהשווי
● מפולת במניות התוכנה בוול סטריט: וויקס נחתכה במעל ל-10% - מה הבהיל את המשקיעים?
המודל החדש שמעורר חשש
מדובר במודל שפועל בצורה אוטונומית ובעלת יכולות חשיבה מתוחכמות שמעניקות לה כישורים של חוקר אבטחה מתקדם. המודל מסוגל לאתר פרצות אבטחה ברמה שעולה על רוב המומחים האנושיים, והמודל גילה אלפי פרצות zero-day (חולשות אבטחה מהותיות וקשות לפיצוח), כולל באג בן 27 שנה ב-OpenBSD, מערכת הפעלה שידועה כאחת המורכבות מבחינת אבטחה.
המודל קיבל ציונים גבוהים במדדים מובילים הבוחנים יכולות בינה מלאכותית. יתרה מכך, אחת ההצלחות הגדולות שיוחסו למודל מציאת חולשות אבטחה מסוג Zero-Day בכל מערכת הפעלה ודפדפן אינטרנט מרכזיים, באופן אוטונומי וללא צורך בהדרכה אנושית.הרבה מהחולשות שדווחו בתקשורת הבינלאומית תוקנו, אבל עבור אלפי החולשות הנוספות שנמצאו טרם תוקנו ואמרה שתחשוף פרטים ספציפיים רק לאחר שיתקנו את החולשות. אנתרופיק תדווח בפומבי תוך 90 יום על מה שלמדה.
לפחות כלפי חוץ, החברה לא רצתה לשחרר את המודל מחשש לשימוש זדוני. דיאן פן, ראש ניהול מוצרי המחקר של אנתרופיק, אמרה ל-CNBC כי "היו הרבה דיונים פנימיים. אנחנו באמת רואים בכך צעד ראשון במתן יתרון להרבה מגיני סייבר בנושא שיהיה חשוב יותר ויותר". לכן, במקום זאת, החברה השיקה את פרויקט Glasswing, יוזמה להגנה על סייבר המעניקה גישה לקבוצה נבחרת של 40 חברות טכנולוגיה וסייבר כמו מיקרוסופט וגוגל קיבלו גישה למודל. אנתרופיק מתחייבת ל-100 מיליון דולר בקרדיטים ו-4 מיליון דולר בתרומות ישירות לארגוני אבטחה בקוד פתוח. בהכרזה שלהם כשהודיעו על Glasswing נכתב כי "מודלי בינה מלאכותית הגיעו לרמת יכולת קידוד בה הם יכולים לעלות על כל בני האדם המיומנים ביותר במציאה וניצול חולשות אבטחה, מלבד אלו של אלו המיומנים ביותר".
לפי אנתרופיק, העלות להפעלת מודל Mythos נמוכה באופן דרמטי ממה שעולות בדרך כלל בדיקות חדירת אבטחה מסחריות, מה שיכול לסייע לשוק לבצע בדיקות וניטורים על המערכות שלהם כדי להגן בצורה יעילה יותר.
החוקר קיבל מייל שהודיע: הפרצה נמצאה
השיא של סדרת הבדיקות הגיע ברגע שנראה כלקוח מתוך סרט. המודל הוכנס לתוך "סנדבוקס" (Sandbox), סביבת הרצה סטרילית ומבודדת, שנועדה למנוע ממנו גישה לרשת. החוקרים הציבו לו אתגר: אם תצליח לפרוץ החוצה, שלח לנו מייל. בזמן שאחד מחברי צוות ההערכה אכל את ארוחת הצהריים שלו בנחת בפארק, הוא הופתע לגלות התראה בטלפון שלו: המודל הצליח "להימלט" מהסביבה המבוקרת.
באנתרופיק גילו כי במאמץ מיוזמתו להוכיח את יכולותיו, המודל אף הספיק לפרסם פרטים טכניים על שיטות הפריצה שלו באתרים ציבוריים נידחים ברחבי הרשת. בחברה הדגישו כי לא מדובר בתקלה, אלא בהוכחה ליכולת התכנון האוטונומית של המודל כשלא מוצבים לו גבולות קשיחים. "הסכנות ברורות," הודה המנכ"ל דריו אמודיי, "אבל אם ננהל את זה נכון, זו הזדמנות ליצור עולם מאובטח יותר מהיסוד".
"תעשיית אבטחת הסייבר חצתה סף שרבים מאיתנו צפו, אך מעטים ערוכים אליו באמת", קובע יונתן זנגר, מנהל הטכנולוגיות הראשי של צ'ק פוינט. לדבריו, בענף עוקבים זה חודשים אחר האופן שבו תוקפים רותמים את הבינה המלאכותית לצרכיהם, אך הופעתו של המודל החדש מבית אנתרופיק משנה את כללי המשחק.
"אם עד כה המודלים הנגישים לציבור הצטיינו בעיקר בניצול חולשות מוכרות, הרי שהמודל החדש לוקח את היכולות הללו צעד קריטי קדימה", מסביר זנגר. "מדובר בגילוי אוטונומי של פרצות 'יום אפס' במהירות ועם ידע מינימלי. עבור המגנים, מדובר באירוע עם השלכות מרחיקות לכת".
"ארגונים צריכים להיכנס לכוננות"
לפי זנגר, השינוי האמיתי לא נוגע רק לפגיעויות עצמן. "מדובר במהירות ובאוטומציה של קמפייני סייבר שלמים. אנחנו נעים לעבר עולם שבו התקפות מתוחכמות, מאיסוף מודיעין ועד לניצול בפועל, מתבצעות בהיקף נרחב ובמעורבות אנושית מינימלית.
מציאת פרצות חמורות מסוג זה הייתה פעם מלאכת מחשבת של מומחים יחידי סגולה. כעת, היא עוברת דמוקרטיזציה. היכולת הזו לא תישאר בלעדית לאף מעבדה אחת. מפתחי מודלים מתקדמים ברחבי העולם מתכנסים ליכולות דומות. המשמעות היא שארגונים צריכים לצפות לעלייה משמעותית הן בגילוי פגיעויות והן בניצול פעיל שלהן".
לדבריו, עבור חברות טכנולוגיה זוהי "קריאת השכמה לאבטח את המערכות שלכם עכשיו - לא באופן תגובתי, אלא מבני. עבור תאגידי, זהו הרגע להתכונן לעידן שבו מניעת זירו דיי, מהירות עדכוני האבטחה והיקף הכיסוי הופכים לעניין קיומי". זנגר מספר כי הצוותים שלהם בצ'ק פוינט כבר היום נעזרים במודלים המתקדמים ביותר של AI.
מניות התוכנה נפלו
הדיווחים הללו שלחו גלי הדף מיידיים לוול סטריט, ומניות התוכנה והסייבר רשמו צניחה חדה. לצד ענקיות כמו קראודסרייק, סרוויס נאו, פאלו אלטו וסיילספורס, גם מניות של חברות ישראליות כמו וויקס, מאנדי וצ'ק פוינט נחתכו בחדות בשני ימי המסחר האחרונים. עם זאת, חלק מהאנליסטים טוענים שהפאניקה מוגזמת וכי חלק מהחברות אף ירוויחו מהמצב החדש.
סרגיי וסצ'ונוק, אנליסט בכיר באופנהיימר, מסביר כי כל ההתפתחויות האחרונות יובילו ליתרון אצל "חברות פלטפורמה כמו פאלו אלטו וקראודסטרייק. ככל ש-AI הופך את ההתקפות למסוכנות יותר, כך גדל שוק היעד הפוטנציאלי לפלטפורמות אבטחת מידע. החששות לגיטימיים לטווח ארוך אבל השוק מתמחר אותם כאילו השיבוש מיידי. סייבר צפוי להיות תת-הסקטור הראשון שמתאושש לאור מנועי צמיחה חדשים באבטחת פריצות מבוססות AI". לעומת זאת, מי שייפגע להערכתו הן חברות סריקת קוד ופגיעויות (SAST) כמו GitLab.
זו לא הפעם הראשונה שסקטור התוכנה עוקב בחשש אחר הפיתוחים במרוץ הבינה המלאכותית בכלל, ובחברת אנתרופיק בפרט. כך קרה רק לפני שבועיים, כשהמודל החדש של אנתרופיק נחשף. תסריט דומה התממש גם בינואר האחרון, כששוחרר לאוויר העולם הקלוד קוד, שעורר חשש רב בקרב חברות התוכנה.