הבכיר מאנבידיה שמסביר איך פיתוח מישראל יפתור את אתגר אבטחת ה־AI

בעוד חברות הטכנולוגיה מתחרות על פיתוח סוכני בינה מלאכותית (AI) שיוכלו לבצע משימות באופן עצמאי, באנבידיה מזהים בעיה שעשויה לעכב את אימוצם: מערכות האבטחה הקיימות לא תוכננו עבור תוכנות שמקבלות החלטות ופועלות ללא התערבות אנושית. סוכנים כאלה יכולים לגשת למידע רגיש, להפעיל מערכות ארגוניות ולתקשר עם שירותים חיצוניים, ולעיתים גם לבצע פעולות שלא התכוונו לאפשר להם.

"סיכון האבטחה הגדול ביותר הוא שסוכני AI פועלים בסביבות שלא תוכננו עבורם", מסביר לגלובס עלי גולשן, מנהל בכיר לתוכנת AI באנבידיה וממובילי פיתוח פלטפורמת OpenShell. "אנחנו מנסים להתאים להם מערכות שנבנו עבור יישומים מסורתיים. זה כמו לנסות לנהוג במכונית על מים".

● מיקרוסופט במהלך התייעלות ענק: תציע פרישה מרצון ל-60 אלף עובדים
● ממעבדה סודית בתל אביב: החוקרים שגייסו 20 מיליון דולר כדי לשנות את עולם ההשקעות באמצעות AI

בראיון לגלובס, שנערך במסגרת כנס GTC של אנבידיה בברלין, מציג גולשן את החזון של החברה לשוק אבטחת ה־AI: במקום להסתפק בהוספת מוצרי אבטחה למערכות קיימות, יש לבנות תשתית חדשה שמותאמת מלכתחילה לסוכנים אוטונומיים. לדבריו, המהלך עשוי לא רק לשנות את הדרך שבה ארגונים מגינים על המידע שלהם, אלא גם ליצור תעשיית סייבר חדשה.

הטכנולוגיה הישראלית נגד סוכנים מסוכנים

במרכז המהלך של אנבידיה נמצאת OpenShell, סביבת הרצה בקוד פתוח שמאפשרת לארגונים לשלוט בפעולות שסוכני AI רשאים לבצע. בניגוד למערכות שבהן תוכנה מקבלת הרשאות קבועות, כאן הסוכן מתחיל לפעול ללא הרשאות ונדרש לקבל גישה בהתאם למשימה שעליו לבצע. "בכל פעם שסוכן מתחיל לפעול, הוא מתחיל מאפס הרשאות, בתוך סביבה מבודדת", מסביר גולשן. "הוא מקבל מדיניות, ואז צריך להסביר מה הוא זקוק לו כדי לבצע את המשימה".

לדבריו, בשונה מהאדם, לסוכן אין פרטיות: "אנחנו רוצים להבין כל דבר שהוא עושה". ההגבלות לא מסתמכות רק על הוראות שניתנות למודל, אלא נאכפות באמצעות מנגנונים נפרדים ברמת מערכת ההפעלה. הסוכן יכול לבקש הרשאות נוספות, אך אלה נבדקות מול מדיניות הארגון, ובסיום המשימה הן מבוטלות.

אלא שגם תוכנת אבטחה עלולה להיפרץ. כאן נכנסת לתמונה משפחת מעבדי התשתית BlueField של אנבידיה (שצמחה ממלאנוקס הישראלית). המעבדים מעבירים את פעולות האבטחה והתקשורת לרכיב חומרה נפרד. "כאשר שמים את הבקרה בשכבת היישום, הסוכן יכול לעקוף אותה", מסביר גולשן. לדבריו, מעבדי BlueField מאפשרים לנתק את סביבת הפעילות מהרשת בעת זיהוי התנהגות מסוכנת ולאסוף יומני פעילות, גם אם הסוכן פרץ את התוכנה עצמה.

לדבריו, BlueField-4 מאפשר לנתק את סביבת הפעילות של סוכן מהרשת כאשר מזוהה התנהגות מסוכנת. "לאחר מכן אפשר לאסוף את יומני הפעילות ולהבין בדיוק מה קרה, גם אם הסוכן הצליח לפרוץ את OpenShell עצמה".

מבחינת אנבידיה, השילוב בין OpenShell לבין BlueField נועד ליצור כמה שכבות הגנה: תוכנה שמגבילה מראש את פעולות הסוכן, לצד חומרה שיכולה לספק שכבת בידוד נוספת במקרה של פריצה. כך מקבלת טכנולוגיה בעלת שורשים ישראליים תפקיד מרכזי באחד התחומים החדשים שאליהם מתרחבת ענקית השבבים.

קוד פתוח, אבל מה האינטרס העסקי?

הכניסה של אנבידיה לתחום מעוררת שאלה עבור תעשיית הסייבר, ובפרט עבור החברות הישראליות: אם אנבידיה כבר מספקת יכולות של בידוד, ניהול הרשאות ואכיפת מדיניות, מדוע ארגונים יצטרכו לרכוש פתרונות אבטחה נוספים? "אנחנו לא נכנסים לשוק הסייבר", אומר גולשן. "אנחנו מספקים יכולות בסיסיות שעליהן חברות האבטחה יכולות לבנות".

באנבידיה מבקשים לספק תשתית משותפת שעליה יוכלו חברות הסייבר לפתח מוצרים. גולשן מבהיר ש־OpenShell לא מחליפה את כל יכולות האבטחה הקיימות. "אפשר להגדיר באמצעותה שסוכן לא יתקשר עם העולם החיצוני או שלא ישתמש בכלי מסוים. אבל היא לא מגיבה לאירועי אבטחה, מזהה ומנתחת מתקפות או בודקת לעומק תעבורת רשת לזיהוי תוכנות זדוניות". לדבריו, חברות כמו CrowdStrike, פאלו אלטו נטוורקס וסיסקו כבר משתפות עמה פעולה.

אלא שגם אם אנבידיה לא מתכוונת להתחרות ישירות בחברות הסייבר, היא עשויה להשפיע על השוק שלהן. ככל שיכולות בסיסיות כמו בידוד ואכיפת הרשאות יהפכו לחלק מובנה מתשתית המחשוב, כך חברות האבטחה יצטרכו להציע יכולות מתקדמות יותר.

OpenShell מופצת בקוד פתוח, כך שחברות יכולות להשתמש בה ולפתח על גביה פתרונות משלהן. עם זאת, אנבידיה מציעה גם רכיבי חומרה מסחריים, ובהם BlueField, המשתלבים בארכיטקטורה. האם התוכנה החינמית נועדה להגדיל את הביקוש לחומרה שלה? "לא התחלנו את OpenShell עם מודל מכירות או תוכנית עסקית", משיב גולשן.

הוא מדגיש שהתוכנה לא מחייבת שימוש בחומרה של אנבידיה, אך מאשר שהיא מציעה גם פתרון משולב של תוכנה וחומרה. מבחינת החברה, המטרה הרחבה היא להסיר את חסמי האבטחה שמעכבים ארגונים מלהפעיל סוכני AI בהיקפים גדולים. ככל שיותר ארגונים יאמצו את הטכנולוגיה, כך עשוי להתרחב גם השוק לתשתיות המחשוב שעליהן היא פועלת.

"נראה מאות חברות סייבר חדשות"

למרות החשש שכניסת אנבידיה תצמצם את ההזדמנויות עבור חברות סייבר קטנות, גולשן דווקא צופה גל חדש של יזמות בתחום. "אני חושב שבעוד שנתיים או שלוש נסתכל על מפת שוק הסייבר ונראה מאות חברות חדשות, שכולן נבנו מלכתחילה עבור AI או פיתחו מוצרים חדשים לתשתיות AI", הוא אומר.

אחד התחומים המבטיחים בעיניו הוא אבטחת זהויות. "לא רוצים לקחת זהות של אדם, לתת אותה לסוכן ולאפשר לו לפעול בשמו, במיוחד כשהסוכן יכול ליצור סוכני משנה", הוא מסביר. המצב הזה מחייב מנגנונים חדשים לחלוטין לניהול הרשאות.

לצד אבטחת זהויות, הוא מצביע על הזדמנויות בתחומי ניטור פעילות, פרטיות, זיהוי איומים ותגובה למתקפות. לדבריו, השוק עדיין בתחילת דרכו, והפתרונות הקיימים לא מספקים את כל הצרכים של ארגונים גדולים. גולשן מעריך שמתוך התעשייה החדשה עשויות לצמוח הן ענקיות אבטחה והן חברות נישה. "השאלה אילו חברות יהפכו לגדולות ואילו יישארו קטנות תלויה באופן שבו הן בונות את המוצר, בשותפויות שלהן וביכולת להגיע לשוק. האם הן פותרות בעיה אמיתית, או פשוט רודפות אחרי טרנד", הוא אומר.

העצה ליזמים: "פחות פילוסופיה, יותר עבודה"

גולשן מכיר את עולם הסטארט־אפים גם מניסיונו האישי. לפני שנרכשה Gretel שהקים בידי אנבידיה, היה גולשן מעורב בהקמת מספר סטארט־אפים שנמכרו לענקיות טכנולוגיה, ובעברו אף עבד בקהילת המודיעין האמריקאית.

ליזמים שמבקשים להקים את חברת הסייבר הבאה הוא ממליץ להתמקד בניסויים ובבעיות אמיתיות, ולא רק בתחזיות על האיומים העתידיים. "העצה שלי לחברות האלה היא להתמקד בעבודה מעשית ופחות בדיונים פילוסופיים", הוא אומר. "כשמריצים מודל מתקדם ורואים איך הוא מתנהג, אלה הדברים שעל בסיסם צריך לבנות מוצרים, ולא על סמך הנחות לגבי מה עשויה להיות הבעיה". גם קצב הפיתוח צריך להשתנות, לדבריו. "להסתגר במשך שנתיים, לבנות פלטפורמה ורק אז לצאת לשוק, זו לא בהכרח דרך שתעבוד בעולם שמשתנה במהירות כזו".

במקום זאת, הוא ממליץ להגיע לשוק עם פתרון ממוקד, ללמוד מהלקוחות ולהתרחב בהדרגה. עבור תעשיית הסייבר הישראלית, השאלה היא אילו חברות יצליחו לזהות ראשונות את בעיות האבטחה החדשות שיוצרים סוכני ה־AI, ולהפוך אותן לעסקים משמעותיים.

***גילוי מלא: הכתבת הייתה אורחת של אנבידיה בכנס GTC בברלין