המגבלה של אנבידיה שהפכה למכרה זהב לחברות הישראליות

כשלירן צביבל, מנכ"ל וממייסדי ווקה איי. או. (Weka IO), צריך לתאר את מה שעושה החברה שלו בפשטות הוא אומר ש"זה כמו אפקט של אלכימאי בימי הביניים". בפועל הוא פותר את צוואר הבקבוק של תעשיית הבינה המלאכותית - המכונה "קיר הזיכרון". כדי לאפשר ל-AI גישה מהירה למידע לו הוא זקוק לצורך חישובים נדרשים רכיבי זיכרון, אולם בעידן שבו מעבדים גרפיים מבצעים מיליארדי פעולות בשנייה הזיכרון הפך לאתגר קריטי. כך שה-AI מזנק קדימה, אבל הזיכרון נשאר מאחור.

● עובדות קשה, חיות יותר - ומקבלות פחות בפנסיה: המסע אל אי-השיוויון
● המהנדס שעבר מטיפול בסרטן לעולם השיווק - ופיתח כלים שיעזרו לכם להישאר רלוונטיים
● האב נקלע לקשיים, היא עבדה כנערה - וכיום מובילה חברת מכשירי סלולר להכנסות שיא
● כוח המשיכה של ליאו מסי

צביבל מסביר כי העידן החדש, בו המשקל עובר להפעלת סוכני AI, ואיתו הצורך הגובר באימון מודלים - הביא יותר ויותר ארגונים לגלות את ווקה, כמו גם את הקטגוריה כולה. "כשמייצרים הסקה, דרושים הרבה יותר 'אסימונים' - יחידות העיבוד הבסיסיות של הבינה המלאכותית - מאלה שיכולים להיכנס בזיכרון רגיל של מעבד גרפי", הוא מסביר.

"אנחנו מרחיבים את הזיכרון הזה ועל הדרך מקטינים מאוד את השיהוי - פער הזמן שבו המידע מגיע אל השבב, עד כדי כך שהוא לא מבחין האם הוא הגיע מרכיב הזיכרון, או ממערכת של ווקה. התוצאה היא שהלקוחות שלנו פתאום יכולים לעבד הרבה יותר אסימונים".

בעיית הזיכרון, שממעטים לדון בה, הזניקה את מניות יצרניות הרכיבים: סנדיסק עלתה בלא פחות מ-3,550% בשנה האחרונה, אס. קיי. הייניקס קפצה ב-677%, ומיקרון זינקה ב-102%.

אך מתחת לאף צמחה תעשיית ענק שמסייעת לאנבידיה, שעדיין אחראית לרוב המוחלט של המעבדים בעידן הטכנולוגיה החדש, להתמודד עם בעיית מחסום הזיכרון. ווקה היא אחת מהחברות שעושות זאת.

החברה המובילה בסגמנט, ואסט דאטה, הפכה בחודש שעבר לחברה הישראלית הפרטית בעלת השווי הגבוה ביותר - 30 מיליארד דולר, זאת לאחר סיבוב מכירת מניות שניוני (סקנדרי) בגובה של מיליארד דולר.

מתחרה נוספת היא DataDirect Networks של צמד הצרפתים ממוצא יהודי, אלכס בוזארי ופול בלוך, שגייסה בשנה שעברה 300 מיליון דולר לפי שווי של 5 מיליארד דולר.

ווקה קיבלה תג שווי של 1.6 מיליארד דולר בגיוס ההון האחרון שלה לפני כשנתיים, ושלושתן הן נכון להיום השותפות האינטימיות היחידות של אנבידיה בתחום ניהול הזיכרון והאחסון. החברות האלו מקבלות קירבה לצוות ההנדסה והמכירות של אנבידיה, וגם זרם בלתי פוסק של לקוחות מענקית השבבים.

"בסופו של דבר התעשייה הזו פועלת תחת מגבלות כבדות", מסביר צביבל. "ישנה תקרה לכמות המעבדים הגרפיים שאנבידיה מסוגלת לייצר ותקרה לכמות החשמל שחברות יכולות לרכוש, גם חברות הטכנולוגיה הגדולות ביותר, לכן המקום שאפשר לשנות בו משהו הוא לייעל את האופן שבו חוות ה-AI עובדות, והמפתח לכך נמצא ברכיבי הזיכרון ובניהול שלהם".

"עם 5 שעות להרצת חישוב יצרנו באזז בעמק הסיליקון"

צביבל (46) נולד וגלד בתל אביב והיה מול מחשב, "פחות או יותר מאז שאני זוכר את עצמי". הוא למד בתיכון רוטברג שלמשך תקופה הוביל תוכנית לנוער מחונן, בה דחס ארבע שנות תיכון בשנתיים. "ביטלו את זה אחרי שהבינו שלרוב הבוגרים זה דפק את החיים", אומר צביבל. "אני אולי אחת הדוגמאות הטובות מהצד השפוי".

כשחבריו סיימו תיכון, צביבל החל תואר ראשון במתמטיקה ומדעי המחשב, התגייס לחיל המודיעין, עבר הכשרה במסלול יוקרתי ושירת לאחר מכן ביחידה טכנולוגיות מיוחדת. כשהשתחרר, שכרו אותו חבריו מהשירות הצבאי לחברה שהקימו, סטארט-אפ טכנולוגיית האחסון XIV - חברה הקרויה על שם המחזור ה-14 בתוכנית תלפיות, שחמישה מבוגריה הקימו את החברה.

 הנהלת ואסט דאטה (המנכ''ל רנן חלק שני מימין, ושחר פיינבליט מנהל הפיתוח בישראל (שלישי מימין). שיא שווי לחברה פרטית ישראלית / צילום: Vast Data

הוא היה מהעובדים הראשונים שנשכרו לעבוד בה וכשנה לאחר הקמתה, היא נמכרה בכ-350 מיליון דולר ל-IBM, שהייתה אז רוכשת פעילה של חברות אחסון בישראל, שם הוא בילה ארבע שנים עד שעזב ב-2011.

"למדתי שם איך עושים סטארט-אפ ואיך חברות גדולות עובדות, ואיך ארגונים קונים מוצרים - לא הייתי יכול לבנות את ווקה אילולא IBM היו קונים את XIV. זו הייתה תקופה שכמעט כל חברה נרכשה והיו הרבה אנשים שעבדו בחברות גדולות - זה נותן הרבה ניסיון שאי אפשר לעשות בעבודה בחברה פרטית קטנה או במערכת הביטחון".

במידה רבה, חברות כמו ואסט דאטה ו-ווקה לא היו יכולת להתקיים ללא פרק מפואר בהייטק הישראלי, שבעשור הראשון של המאה הנוכחית הצטיין בחברות אחסון מידע אפילו יותר מאשר בסייבר.

בקדחת הרכישות אז נמכרו במאות מיליונים חברות כמו קשיא, דיליג'נט וסטורווייז - רובן לאותן שתי חברות שהתחרו אז על מערכות האחסון הארגוניות החדשניות ביותר - EMC ו-IBM. אקסטרים איי. או. שנמכרה ב-450 מיליון דולר ל-EMC ב-2012 הייתה לפרק האחרון בגל האקזיטים של תעשיית האחסון הישראלית. סמנכ"ל הפיתוח שלה בעת המכירה היה הישראלי רנן חלק, מי שהקים ומנהל כיום את ואסט דאטה - חברה שגם לאחר גיוס הענק מקמצת בחשיפה תקשורתית.

את ווקה הקים צביבל יחד עם עמיתיו לשעבר מ-XIV ומהשירות הצבאי, עומרי פלמון ומאור בן דיין. השלושה דאגו להביא איתם עובדים רבים לשעבר מ-XIV, אקסטרים איי. או. וסקייל איי. או. וחנכו את פעילות ווקה כבר לפני 13 שנה.

זה קרה בעיקר בשל טכנולוגיה חדשה שאיפשרה לחבר שרת מחשוב סטנדרטי במהירות לזיכרון מבוסס פלאש, רכיב זיכרון שהיה ידוע בעיקר כאחסון לנתונים בדיסק און קי או טלפונים, והחל גם להגיע לעולם שרתי המחשוב - אך הגישה אליו הייתה מסורבלת ואיטית. "עד אז הרשת הייתה איטית פי מאה ביחס לשרת, והאחסון התבסס על שיטה מיושנת יותר כמו אחסון מבוסס בקרי דיסקים קשיחים", אומר צביבל.

בשנת הפעילות הראשונה של החברה, 2014, איש לא תיאר לעצמו כי שמונה שנים לאחר מכן תשיק OpenAI את ChatGPT ותחנוך עידן חדש של בינה מלאכותית יוצרת. "ידענו שאנחנו רוצים לתת את המערכת היעילה ביותר ללקוחות שצריכים חישוב בנפחים גבוהים, אבל זה היה לפני עידן ה-AI שאנחנו מכירים היום", מציין המייסד.

"ב-IBM ראינו שימושים הולכים וגוברים, אז האמנו במגמה הזו, ובינתיים ניסינו את מזלנו עם לקוחות שדורשים עיבוד בקצבים מהירים כמו קרנות גידור, חברות אלגוטריידינג וחברות תרופות אבל לקח לנו שנים להגיע לחברות דיפ טק של ממש. החל מסוף העשור הקודם שמנו לב שהלקוחות שבאו עם העניין הכי גדול הם כאלה שעובדים עם מעבדים גרפיים, עוד בעידן שבו בינה מלאכותית נקראה רק למידת מכונה. ב-2022, כשיצא ChatGPT לעולם כבר היינו מוכנים עם מוצר שצבר התלהבות: היו חברות גדולות שלקח להן 14 יום להריץ חישוב על זיכרון פלאש - איתנו הם סיימו תוך חמש שעות. זה יצר באזז מפה לאוזן בעמק הסיליקון".

המשקיע שמשווה את הפתרון לפרארי

אחד ממנועי הצמיחה המשמעותיים של סוכני ה-AI, ושל ווקה בפרט, הוא ההתקדמות המטאורית בענף פיתוח התוכנה האוטומטי - שבו מנועי AI לוקחים חלק ניכר מעבודת פיתוח התוכנה בארגון, כשהם מפוקחים על ידי מתכנתים מנוסים.

"קיר הזיכרון הופך לבעיה אקוטית בתעשיית הבינה המלאכותית בגלל המעבר ההולך וגובר להפעלת סוכני AI בארגונים, ובראש ובראשונה בשל התפשטות סוכני פיתוח התוכנה האוטונומיים, כמו קלוד קוד, ווינדסרף, קודקס של OpenAI או קרסר", אומר צביבל. "זה ה'קילר אפ' הגדול הראשון של עידן הסוכנים, והם זקוקים לזיכרון בלתי נגמר כי הם דורשים הרבה הקשר ומשתמשים באסימונים רבים כדי לבצע את פעילות החישוב שלהם".

כאן מגיע הערך המוסף של ווקה, שאולי פחות מסייעת במנועי הצ'ט, אך בתחום סוכני ה"קודינג" מצליחה להגדיל את ביצועי מעבדי אנבידיה אפילו פי עשרה.

אחרי ואסט הישראלית, ווקה היא ככל הנראה החברה הצומחת ביותר בעולם בתחום ניהול הזיכרון למעבדים הגרפיים של אנבידיה. על פי בכירים בשוק הבינה המלאכותית, קצב ההכנסות השנתי שלה מוערך בכ-150-100 מיליון דולר עם לקוחות כמו אורקל וטסלה, שמאמנת את המכוניות והרובוטים שלה עם המערכת הישראליות, לצד ענקיות תרופות כמו נובו נורדיסק ואיליי לילי.

 אילון מאסק. בשוק מעריכים שטסלה בין לקוחות ווקה / צילום: ap, Ringo H.W. Chiu

חברות הענן הגדולות, בהן נביוס, קורוויב, קוהיר, סטביליטי והאגינג-פייס עובדות איתה, בקצב הולך וגובר, לא מעט גם בזכות ההצלחה של המתחרה ואסט, ובזכות הפניות מהשותפה הנאמנה אנבידיה. המערכת הישראלית מותקנת באולם ההופעות הכדורי בלאס וגאס "ספיר" והיא זאת שמאפשרת להקרין על מסכי הענק שלו וידאו בקצב טבעי. בחברה סירבו להתייחס להכנסותיה או לזהות הלקוחות וביקשו שלא להגיב בנושא.

בין המשקיעים בחברה: קרן וואלור, מהמשקיעים המוקדמים בספייס אקס; קרן אטריידס, שהכירה את ישראל דרך השקעותיה בחברות השבבים של אביגדור וילנץ; קרן ג'נריישן IM של המועמד לנשיאות ארה"ב לשעבר אל גור; וקרן Key1 הישראלית.

דני אקרמן, שותף מנהל ב-Key1 הוא אחד המשקיעים המוקדמים בווקה. "השקענו בחברה שלוש פעמים והחברה גדלה בינתיים במכפלות" הוא מתגאה.

על גיוס הענק של המתחרה ואסט אומר אקרמן כי "העובדה שמשקיעים נכנסים להשקעה בה לפי שווי של 30 מיליארד דולר, אומרת שהם מצפים להחזר של לפחות פי 3-2 על הכסף, כלומר הם מאמינים שרק חברה אחת בשוק הזה תגיע לשווי של 100 מיליארד דולר - מה שגוזר שווי שוק עתידי של מאות מיליארדי דולרים - בו יתחלקו גם המתחרות".

אקרמן מסביר כי "ווקה תמיד התמקדה במחשוב עתיר-ביצועים, מדובר בפתרון יקר ובוטיקי, פרארי שלא כל אחד יכול לנסוע בו. אבל התחום הזה זוכה לביקוש הולך וגובר עם התרחבות השימוש בבינה מלאכותית".

מחסור בזיכרון ו"מעבדים שנחים": התקרה של אנבידיה

האם ואסט דאטה פילסה את הדרך לווקה ושאר המתחרות בתחום? צביבל מסרב להתייחס לואסט באופן ישיר אך מציין כי: "השוק מראה שחברות ישראליות יכולות לשחק במגרש של הגדולים. וויז הראו את זה מוקדם יותר השנה, אבל המגמות הללו נותנות לנו ביטחון שאנחנו עושים את הדברים הנכונים מישראל. זו גם הוכחה לכך שהשוק גדל ומבין שיש תשתיות AI שהן מעבר למעבדים של אנבידיה.

"כעת, כשהפוקוס של שוק ה-AI עובר מיישומי צ'ט לסוכנים של ממש שמפעילים משימות קריטיות בתוך חברות, השוק מרגיש עד כמה הוא צריך מערכות שיכולות להרחיב את הזיכרון, כזה שמצליח לייצר הרבה יותר 'אסימונים' לכל מעבד של אנבידיה".

מייסד ווקה בטוח שהצמיחה המהירה של צריכת ה-AI מביאה גם לפתיחות גבוהה יותר לטכנולוגיות חדשות שאינן דווקא נמכרות על ידי חברות הענק, אלא גם על ידי סטארט-אפים זריזים: "אני רואה רבים שרוצים להתנסות במוצרים חדשים שלא היו קודם לכן, השוק עומד לפני צמיחה מטורפת, השחקנים הרציניים מבינים את זה, וגם שחקנים קטנים מבינים שהגודל הנוכחי שלהם לא חשוב, אלא לאילו הישגים הם יכולים להגיע".

לא סתם הפכה הקטגוריה לכזו המגלגלת מאות מיליוני דולרים ושווה כבר עשרות מיליארדים - היא צמחה במקום שבו אנבידיה נתקעה בתקרה. "אי אפשר להשתמש נכון ב-AI אם הזיכרון של המעבד הגרפי צר יחסית והמעבדים מוצאים את עצמם נחים ללא פעילות ומחכים לנתונים שיגיעו", מסביר אקרמן.

"כשאתה שואל צ'ט, כמו קלוד או ChatGPT, על בסיס שאלה קודמת או מסמך שהעלית קודם - הוא משתמש בזיכרון כדי להתייחס לתשובות העבר. כשהזיכרון שלו מסתיים, הוא פשוט עובר הלאה כדי להעסיק את המעבד הגרפי הבא. הבעיה היא שיש מחסור במעבדים גרפיים, אבל אם ישנה תוכנה שבאופן חכם מקצה לך זיכרון נוסף, הוא חוסך לך את הצורך לעבוד עם כמה מעבדים גרפיים במקביל - וזה בוסט משמעותי לזיכרון. לנישה הזו נכנסו חברות כמו ווקה ו-ואסט".

צביבל מסביר כי בחודשים האחרונים מעצב המחסור בזיכרון את התעשייה בדרכים שאיש לא חזה: "המחסור בסוג הזיכרון שאנבידיה משבצת ליד השבב שלה, זיכרון רחב פס (HBM), הביא לכך שסוגים אחרים של זיכרון הפכו נדרשים בבת אחת, למרות שהשוק כלל לא נערך לכך.

"ענקיות הענן פשוט החלו לקנת זיכרון מכל הבא ליד, וכשסוגי הזיכרון הזול יותר לא היו בנמצא, הלכו על מוצרי הקצה, כמו זיכרונות הפלאש (NAND), בחזקת 'אם אין לחם, תאכלו עוגות'. כך קיימת תנועת מלקחיים על הזיכרון הבלתי נדיף, היקר יותר כאשר מצד אחד הוא מבוקש יותר, ומצד שני יצרניות פלאש המירו פסי ייצור סוגי זיכרונות יקרים יותר כדי להגדיל את הרווחיות שלהן. זה מסביר את העלייה החדה במניות הזיכרון - חברות כמו אס קיי הייניקס, ווסטרן דיגיטל ומיקרון - להערכתי זה יחזיק שנתיים ולאחר מכן יהיו כבר שורה של מפעלים שיעבדו היטב כדי להוריד את המחסור".

האם "קיר הזיכרון" ייעלם יום אחד כשאנבידיה, AMD או אמזון יתגברו על המחסור בזיכרון ויצליחו להעמיד פתרון מתחרה משלהם שעשוי לייתר תעשייה שלמה? "פירמידת הזיכרון לא תלך לשום מקום, אומר צביבל. "חוקי הפיזיקה מכתיבים מגבלה תמידית של זיכרון - כי ככל שהשבב מהיר יותר, כך הוא צריך גישה ליותר מידע יותר מהר - למעשה כל פעם כשאנבידיה משיקה דור חדש של מעבדים היא נעשית תחרותית יותר, אבל זה לא סותר את העובדה שכל פיסת סיליקון מוגבלת בכמות הזיכרון שאפשר להניח עליה - וככל שהם יגדילו אותו, אנחנו תמיד נאפשר להם להגיע להרבה יותר מידע מהקיים".