ג'נסן הואנג, מנכ"ל ענקית השבבים אנבידיה, הציג בכנס GTC בברלין ארכיטקטורת אבטחה חדשה, בעלת ליבת פיתוח ישראלית, שנועדה להתמודד עם אחד האתגרים המרכזיים של עידן הבינה המלאכותית: כיצד מונעים מסוכני AI, תוכנות שמסוגלות לבצע משימות באופן עצמאי, לפעול בניגוד להוראות ולסכן מידע ארגוני?
● מפעל בינה מלאכותית יוקם בתוך שבועיים? ההבטחה החדשה של אנבידיה
● אנבידיה מכריזה: המהנדס שיוביל את בניית קמפוס הענק בטבעון
● ענקיות ה-AI מסתערות על השוק הישראלי. היעד: בנקים, קופות חולים ומשרדי ממשלה
ככל שחברות מעניקות לסוכנים גישה למערכות פנימיות, למסמכים רגישים וליכולת לבצע פעולות בשם עובדים, כך גדל הסיכון לטעויות, לדליפת מידע ולניצול לרעה של ההרשאות שניתנו להם. הפתרון של אנבידיה נועד לאפשר לארגונים לקבוע מראש מה מותר לכל סוכן לעשות, לעקוב אחר פעילותו ולבלום אותו באופן אוטומטי אם הוא מנסה לבצע פעולה אסורה.
שכבת הגנה המבוססת על שבב שפותח בישראל
המערכת החדשה מבוססת על OpenShell, תוכנת קוד פתוח שאנבידיה הציגה בעבר, וכעת משלבת אותה עם מנגנוני אבטחה הפועלים ברמת החומרה. בלב שכבת ההגנה החומרתית נמצא שבב BlueField-4, שפותח בשנים האחרונות במרכז הפיתוח של אנבידיה בישראל, ומתבסס על טכנולוגיה שמקורה במלאנוקס הישראלית, שאותה רכשה החברה ב-2020.
על גבי השבב פועלת מערכת נפרדת בשם Sentry, שמנטרת את פעילות הסוכנים ואוכפת את מדיניות האבטחה באופן עצמאי. המשמעות היא שהפיקוח אינו תלוי רק בתוכנה שמפעילה את הסוכן: המערכת יכולה, לפי אנבידיה, לזהות חריגות ולבודד אותו בתוך אלפיות השנייה. החברה מקדמת את הפתרון גם בשיתוף אנתרופיק, מפתחת Claude.
בנאומו בכנס הסביר הואנג כי המטרה היא לאפשר לחברות ברחבי העולם לאמץ סוכני AI ולהפעיל אותם באופן אוטונומי בתוך הארגון, תוך התאמה של הרשאות הגישה לכל משימה ולכל משתמש. לדבריו, כל שילוב של יכולות הסוכן, המשימה שהוטלה עליו וזהות העובד שמפעיל אותו מחייב רמת הרשאות שונה. לכן, בניגוד למערכות שבהן ההרשאות מוגדרות מראש ונשארות קבועות, הפיקוח על סוכני AI צריך להתבצע באופן דינמי, ולהתאים את מדיניות האבטחה בכל פעם שסוכן מופעל. "בכל פעם שסוכן מופעל, ההרשאות שונות. לכן ניהול ההרשאות, אכיפת המדיניות והניטור חייבים להתבצע באופן דינמי", אמר הואנג, ותיאר את OpenShell כטכנולוגיה מהפכנית.
עבור תעשיית הסייבר הישראלית, מדובר בהתפתחות משמעותית בתחום שצפוי לצמוח עם התרחבות השימוש בסוכני AI בארגונים, אך גם באתגר תחרותי: אנבידיה מבקשת להפוך את האבטחה לחלק מובנה מתשתיות הבינה המלאכותית עצמן, ולא רק למוצר חיצוני שמוסיפים להן.
***גילוי מלא: הכתבת הינה אורחת אנבידיה בכנס GTC בברלין
