במהלך סוף השבוע הודיעה OpenAI כי היא מקפיאה את פיתוח מודלי הבינה המלאכותית החדשים שלה וזאת בעקבות שורה של פריצות לאתרים פדרליים ולמאגר מודלי השפה שרכשה אנבידיה לא מזמן ב-13 מיליארד דולר, "האגינג פייס". המהלך של סם אלטמן, מנכ"ל החברה, נעשה בעיתוי מיוחד, רק כמה ימים קודם לכן התראיין מנכ"ל אנבידיה ג'נסן הואנג בפודקאסט ואמר בנחרצות כי אם יתברר ליצרנית מודלי שפה כי התוצר שלה איננו מוכן - אסור לה להשיק אותו, ואם חברה או מעבדת AI טוענת שאיננה יכולה להכיל את אותם ניסויים מוקדמים במודלי השפה - "אנחנו חייבים לסגור אותה", אמר הואנג בשיחה עם עיתונאי הניו יורק טיימס עזרא קליין.
● הקמת תשתיות הבינה המלאכותית הופכת להימור הכלכלי הגדול בתולדות ארה"ב
● הבינה המלאכותית הכניסה את תעשיית הוצאות הספרים לכאוס
כעת, מנצל הואנג את המומנטום שנוצר כדי להשיק כלי תוכנה שיסייע לחברות שמפתחות מודלי AI, או מריצות אותן, לבדוק את פעילות סוכני הבינה המלאכותית לפני ההשקה שלהם ותוך כדי ההרצה שלהם. המערכת המבוססת על קוד פתוח מיועדת בפועל לכל חברה שמריצה סוכני AI - עם קוד לתוכנות המאפשרות לבינה מלאכותית למלא משימות הממולאות בדרך כלל על ידי עובדים אנושיים וככל שידוע היא לא נועדה להתחרות במעבדות הסייבר כמו אירגיולר הישראלית שמספקת שירותי בדיקת עמידות עבור מודלי AI חדשים ומשרתת ענקיות כמו אנתרופיק, מטא, OpenAI וגוגל. בעוד שאירגיולר מספקת כלים יוצאי דופן וככל הנראה גם יקרים לבדיקת מודלי קצה, אנבידיה פונה לשוק הכללי עם מערכת מבוססת קוד פתוח כמוצר משלים לשאר מוצרי התוכנה והשבבים שלה.
היתרון של מוצר שכזה מבית אנבידיה מאפשר לחברות להתקין אמצעי ניטור ובקרה גם בשכבות החומרה והמחשוב. המערכת המרכזית כוללת מוצר בשם OpenShell - תוכנת אבטחה שמפקחת על סוכני AI ומציבה להם גבולות - על גבי מעבדי ליבה של אנבידיה, אינטל ו-ARM. יותר ויותר פעולות ניהול סוכנים עוברות כיום ממעבדים גרפיים למעבדי ליבה, המיוצרים לא רק על ידי אנבידיה. אנבידיה אמנם מדגישה כי התוכנה תעבוד על מעבדי הליבה מתוצרתה (ורה), אך מאחר שמדובר בתוכנה מבוססת קוד פתוח היא תעבוד גם על מעבדי ליבה מתחרים.
מערכת המנטרת ברציפות את פעילות הסוכנים
תוכנה נוספת כוללת את סנטרי (Sentry), מערכת ניטור שפועלת בנפרד מסביבת הסוכנים וממוקמת לא במעבדי הליבה - אלא במעבדי התקשורת (DPU) מסוג בלופילד, מעבדים מתוצרת מלאנוקס המנהלים חלק מהיבטי התקשורת של אנבידיה - כמו ניהול הרשת, הצפנה ופענוח, אחסון וניהול מכונות וירטואליות. על פי אניבידיה, "סנטרי מספקת אכיפת אבטחה ברמת השבב - אם סוכן AI מנסה לחרוג מהגבולות שהוגדרו לו בתוכנה, סנטרי מבודדת אותו ועוצרת את פעולתו בתוך אלפית השנייה. סנטרי, שפועלת על גבי מעבדי BlueField-4 DPU שפותחו במרכז הפיתוח של אנבידיה בישראל, מנטרת ברציפות את פעילות הסוכנים ואוכפת מדיניות אבטחה באופן עצמאי, ברמת השבב. היא משלבת זיהוי איומים, בקרה על הסוכנים ואכיפת מדיניות באמצעות החומרה, והגנה על הגישה לנתונים. יכולות אלה פועלות מתוך סביבה מבודדת ונפרדת, המגיבה בזמן אמת ואינה גלויה לסוכנים או לתוקפים", כך נמסר מאנבידיה.
כאמור, המערכת מיועדת הן לחברות פיתוח מודלים ובה משתמשים כיום אנתרופיק, קוגנישן וספייס אקס (עבור תוכנת קרסר וגרוק), והן לחברות המיישמות מודלים כמו פאלו אלטו נטוורקס, סיילספורס וקראודסטרייק. אירגיולר היא החברה הישראלית שמובלטת באופן יחסי בהודעת אנבידיה כשותפה שמטמיעה את הכלים שלה בסביבת הבדיקות שלה.
