מייסדי Deci / צילום: יח''צ
לפני כשנה הוציאה ענקית השבבים אנבידיה כמיליארד דולר על רכישת שתי חברות תוכנה ישראליות, בעסקאות נפרדות: האחת היא ראן איי.איי (Run:AI), שפיתחה פתרון לניצול מיטבי של כוח העיבוד במעבדים הגרפיים של אנבידיה; והשנייה היא דסי (Deci), שפיתחה טכנולוגיה ל"כיווץ" מודלי שפה של בינה מלאכותית יוצרת - מה שמאפשר להפעיל את אותם מודלים תוך שימוש בפחות כוח מחשוב. בעוד שרכישת Run:AI עברה דרך חתחתים רגולטורית עד לאישור העסקה שמונה חודשים לאחר מכן, רכישת דסי הושלמה במהירות רבה, בחשאי וללא פרסום על הנסיבות שעמדו מאחוריה.
● חדשות ההייטק | נחשפו טכנולוגיות בינה מלאכותית חדשות של מיקרוסופט שפותחו בישראל
● ניתוח | מה עומד מאחורי הרכישה הגדולה ביותר של ענקית הבינה המלאכותית
כעת ניתן לפרסם, כי דסי שולבה בפעילות התוכנה של אנבידיה, והיא נוטלת חלק משמעותי באסטרטגיית השיווק החדשה של החברה, בעידן שאחרי השקת דיפסיק הסינית, שבו אנבידיה מהמרת בכל הכוח על "סוכני ה-AI". מנכ"ל אנבידיה, ג'נסן הואנג, מקדם בחודשים האחרונים את מה שמכונה "מודלי הסקה" - כלומר מודלי שפה שאינם מסתפקים במתן תשובות מנומקות, אלא מסוגלים גם לבצע משימות בפועל. מודלים אלה זכו לכינוי "סוכנים חכמים".
בניגוד למודלי השפה של השנים האחרונות - שנועדו בעיקר לאימון והפעלה של מנועי צ'ט כמו ChatGPT או Claude, בתשלום של כ-20 דולר למשתמש - סוכני ה-AI מיועדים להימכר לארגונים במחירים גבוהים בהרבה, ולבצע מטלות שונות עבור מנהלי הפיתוח, השירות, התפעול והפיננסים, לחסוך זמן יקר לעובדים הקיימים ואולי אף להחליף את חלקם. באנבידיה מדברים על סוכני AI שכותבים קוד תוכנה, מחברים מחקרים מדעיים ולוקחים חלק במשימות חשבונאיות כמו ניהול שכר בארגונים כבר כיום.
התפקיד של דסי בפיתוח
בחודשים האחרונים הציגה אנבידיה כמה הסכמים. לדוגמה עם סרביס נאו, שבהתבסס על מודלי ההסקה שלה היא מפעילה סוכני שירות לקוחות ותמיכה בעובדים; הסכם עם אמדוקס הישראלית, לפיתוח סוכנים למפעילות תקשורת, שיסייעו בטיפול בבקשות של לקוחות ויהפכו את המידע שלהם לשקוף יותר; ועם SAP וסיילספורס, על פיתוח סוכנים שיוכלו גם הם לענות על שאילתות הקשורות במערכת המידע הארגונית שהיא מוכרת.
כדי לאפשר ללקוחותיה - ענקיות התוכנה - לבנות ולהפעיל סוכנים חכמים בעצמן, השיקה אנבידיה בעצמה סדרה של מודלי שפה בסיסיים המכונים "מודלי הסקה" (LRM), והם מכוונים לחברות המעוניינות לפתח סוכני בינה מלאכותית דיגיטליים שיבצעו בעצמם מטלות מורכבות על ידי הפשטה של משימות. המודל, המבוסס על אימון של "לאמה" של מטא, מכונה על ידי אנבידיה Llama Nemotron, והוא ישווק בקוד פתוח ללא תשלום, כדי למשוך לקוחות למוצרי החברה הניתנים בתשלום.
כעת חושפת מנהלת פיתוח התוכנה בתחום ה-AI של אנבידיה, קארי בריסקי, את התפקיד של דסי הישראלית בפיתוח החדש. דסי מסייעת לכווץ את מספר הפרמטרים והביטים המשמשים לפעילותם של מודלי שפה, כך שבפועל הם הופכים את עיבוד פעולות הבינה המלאכותית למהירות יותר, עם דרישה נמוכה יותר לכוח עיבוד. "דסי משתמשים בארכיטקטורה עצבית עם תוכנה משלהם, שמאפשרת להקטין את מודל ההסקה מ-70 מיליארד פרמטרים למודלים של 49 מיליארד, מה שהופך אותו ליעיל יותר", אומרת בריסקי בראיון בלעדי לגלובס. כמו כן, היא מאפשרת להגדיל את רמת הדיוק של פעילות המודלים מ-16 ביט ל-8 ביט (FP8), תוך שמירה על ביצועים.
עד השנה שעברה הייתה דסי אחת מהחברות הישראליות הבודדות שפיתחו מודלי שפה משלהן. היא הוקמה על ידי ד"ר יונתן גייפמן, פרופ' רן אל-יניב ויונתן אליעל, חלקם יוצאי גוגל שהתייאשו מהעלויות הגבוהות שמכתיב עיבוד הבינה המלאכותית בשל החומרה היקרה שהוא דורש, וחיפשו פתרון מעולם התוכנה, שיכול להאיץ את השימוש ב-AI ולאפשר ליותר מפתחי תוכנה ליהנות ממנה. קודם למכירתה ב-300 מיליון דולר, היא גייסה 55 מיליון מקרן אינסייט פרטנרס ומאמרג' הישראלית.
נעזרה במודל של דיפסיק
בריסקי מסבירה את הבחירה של אנבידיה לדבוק דווקא במודל שנכתב בקוד פתוח מבית מטא: "מודל ה'נימוטרון' שלנו מבוסס על לאמה 3, מכיוון שהיא המודל הפתוח הנפוץ ביותר בקרב לקוחות ארגונים, וראינו שיש כאן הזדמנות לשפר אותו וכך להגיע במהירות לתוכנות רבות של לקוחות שפעילות כבר כיום.
עוד מציינת בריסקי, כי לא רק לאמה מככבת במודל הפתוח החדש שלה; ענקית ה-AI נעזרה אפילו במודל החדש והמצליח R1 של דיפסיק, שזכה לשבחים משמות כמו סם אלטמן וביל גייטס. "השתמשנו בנתונים סינתטיים מ-R1, אבל שלטנו בפלט הנתונים שלו", היא מסבירה.
במרץ הציג הואנג את דיפסיק ודומותיה בתור מנוע צמיחה אדיר לחברה, דווקא בגלל שהשקתה מדגישה את הצורך ברכישת שבבים רבים. זאת, חודשיים לאחר שהופעת דיפסיק גילחה ביום אחד 600 מיליון דולר משווי השוק של אנבידיה.