פרטים חדשים נחשפים: זה הישראלי לשעבר שעומד מאחורי ההדחה המפתיעה ב-OpenAI

דיווחים מהשעות האחרונות שופכים אור נוסף על הטלטלה בחברת הבינה המלאכותית OpenAI, ועל המחלוקת שהתגלעה בחברה בשבועות שקדמו לעזיבתו של המנכ"ל סם אלטמן הלילה (בין שישי לשבת).  

● בגיל 38 בלבד הוא נחשב לאיש המשפיע ביותר לעתיד האנושות, עד שאמש הודח במפתיע
● מאסק: הקריאה "מהנהר ועד לים" תוביל להשעייה מ-X

על־פי דיווח של אתר החדשות דה אינפורמיישן, מיד לאחר פרסום ההודעה על הדחתו של של אלטמן, בשל מה שהוגדר על־ידי הדירקטוריון "כאי אמון בו בשל חוסר עקביות בתקשורת עמו", נערכה בחברה שיחה בנוכחות כלל העובדים והמנהלים בה.

במהלך השיחה, נשאל אחד המייסדים הבולטים והמדען הראשי בה, ד"ר איליה סוצקבר, האם מדובר ב"פוטש" או ב"השתלטות עוינת". סוצקבר, שתמך בגישה שהגבילה את מסחור הבינה המלאכותית וטען שיש להגבילה בשל הסכנות שלה לאנושות, ענה להם כי: "אתם יכולים לקרוא לזה כך, ואני יכול להבין מדוע זה נראה באופן הזה, אבל אני לא מסכים עם הגישה הזו. מה שראיתם כאן זה דירקטוריון שממלא את חובתו עבור משימה שאיננה תלויה ברווח - לוודא ש-OpenAI עומדת מאחורי בינה מלאכותית שהאנושות כולה יכולה להרוויח ממנה".  

OpenAI מנוהלת באופן שונה מעט מחברה רגילה: היא נשלטת בפועל על־ידי דירקטוריון שאחראי על עמותה ללא כוונות רווח בשם .OpenAI Inc, שהיא בעלת השליטה בשרשור של חברות מסחריות בעלות אותו השם. מיקרוסופט היא מחזיקת מניות מיעוט באחת החברות במורד השרשור, OpenAI Global LLC, חברה מסחרית הנשלטת, כאמור, על־ידי עמותה ללא כוונות רווח.  

מלבד את סוצקבר עצמו, כולל דירקטוריון החברה גם את מנכ"ל Quora אדם ד'אנג'לו, יזמית הטכנולוגיה טאשה מקולי, והלן טונר מהמרכז לאבטחה וטכנולוגיות באוניברסיטת ג'ורג'יה. עד אמש, כיהנו בדירקטוריון גם אלטמן עצמו וגרג ברוקמן, נשיא החברה ויו"ר הדירקטוריון. לאחר הדחתו של אלטמן, הודיע גם ברוקמן על התפטרותו. ברוקמן הודח מהדירקטוריון אך לא פוטר מתפקידיו בחברה, ואת ההחלטה על העזיבה קיבל בעצמו. אלטמן וברוקמן הודו לאחר מכן כי החלטת הדירקטוריון - אשר בפועל כללה רוב חברים שאינם עובדים בחברה - נעשתה ללא ידיעתם וללא התייעצות עמם. במקומו של אלטמן, מונתה לתפקיד מירה מוראטי, אחת המהנדסות הותיקות בחברה.  

ברוקמן התייחס לאירועים שהתרחשו וצייץ "סם ואני מזועזעים ועצובים ממה שהדירקטוריון עשה היום. גם אנחנו עדיין מנסים להבין בדיוק מה קרה". לאחר מכן, פירט את השתלשלות העניינים מנקודת מבטו: "אמש, סם קיבל הודעה מאיליה (איליה סוצקבר - המדען הראשי של החברה) וביקש לדבר בצהרי יום שישי. סם הצטרף לשיחת ועידה וכל הדירקטוריון, מלבד גרג, היה נוכח. איליה הודיע לסם שהוא מפוטר ושהחדשות יצאו בקרוב מאוד".

Sam and I are shocked and saddened by what the board did today.

Let us first say thank you to all the incredible people who we have worked with at OpenAI, our customers, our investors, and all of those who have been reaching out.

We too are still trying to figure out exactly…

- Greg Brockman (@gdb) November 18, 2023

עוד כתב ברוקמן כי "בשעה 12:19, גרג קיבל הודעת טקסט מאיליה וביקש שיחה מהירה. בשעה 12:23, איליה שלח קישור לשיחת ועידה ולגרג נאמר שהוא מודח מהדירקטוריון, אך הוא חיוני לחברה וישמור על תפקידו. ושסאם פוטר. בערך באותו זמן, OpenAI  פרסמה פוסט בבלוג". ברוקמן הוסיף כי "ככל הידוע לנו, לדירקטוריון החברה נודע על כך זמן קצר לאחר מכן, מלבד מירה (מוראטי - מי שמונתה למחליפה של אלטמן), שגילתה על כך בלילה הקודם".

אלטמן צייץ: "זה כמו לקרוא את ההספד שלך בעודך בחיים"

סוצקבר ואלטמן ביקרו בישראל בחודש יוני האחרון, ובמפגש פומבי שנערך באוניברסיטת תל אביב, פירט סוצקבר את החשש שלו מבינה מלאכותית כל־יכולה. "זו תהיה טעות גדולה לבנות בינה מלאכותית בעלת עוצמה רבה, כאשר איננו יודעים כיצד לשלוט בה", אמר. סוצקבר הוא ישראלי לשעבר שעקר לקנדה. הוא נולד בברית המועצות וגדל בירושלים. בין השנים 2000 ל-2002, למד באוניברסיטה הפתוחה לפני שעקר עם משפחתו לקנדה על־מנת ללמוד לתואר ראשון במתמטיקה באוניברסיטת טורונטו. באותו המוסד קיבל גם את התואר השני והדוקטורט שלו במדעי המחשב, תחת פיקוחו של ג'פרי הינטון, מומחה הבינה המלאכותית של גוגל, שהתפטר ממנה מוקדם יותר השנה בשל החשש מהסכנות הטמונות בטכנולוגיה והטיפול הלוקה של החברות הגדולות בתחום.

למרות שהדירקטוריון לא היה מפורט מאוד לגבי הסיבה להדחתו של אלטמן, בשיחה שנערכה בחברה לאחר מכן, הודגשו שוב נושאים הקשורים לאחריות הפיתוח והשימוש בבינה מלאכותית. במייל שנשלח לעובדים, כתבה המנכ"לית החדשה מוראטי כי אחת מהמשימות המרכזיות של החברה היא "לוודא את בטיחות השימוש בו ולצפות באופן מדעי סיכונים אפשריים שיגיעו משימוש בה".

המחלוקת סביב הגבלת הבינה המלאכותית בשל שיקולים מוסריים - על חשבון שיקולים מסחריים - היא עתיקה כמו ימיה של החברה עצמה. OpenAI הוקמה ב-2015 על־ידי סוצקבר, אלטמן ואילון מאסק כאלטרנטיבה ללא כוונת רווח לחברות שפיתחו בינה מלאכותית מתוך מטרה מסחרית, המרכזית שבהן היא גוגל. רק ב-2019, כאשר מונה אלטמן לתפקיד המנכ"ל, בחרה החברה ללכת בנתיב מסחרי ולאתר משקיעים חיצוניים - זאת, בין השאר, בשל העלויות הכבדות על רכישת שבבי בינה מלאכותית ושרתים שנדרשו כדי לאמן את המודלים החכמים. הפתרון שהגה אז אלטמן: הגבלה מראש של הרווח שיכלה החברה או מי מבעליה להפיק בשל כך.

שבועות ספורים לאחר שובו מישראל ומערים נוספות במזרח התיכון ואסיה, ביקש סוצקבר לעמוד בראש הצוות שיבחן את הסכנות שטמונות בבינה המלאכותית, לצד המדען יאן לקי. בהודעה של החברה, נכתב כי היא תקצה חמישית ממשאבי המחשוב שלה לחקר איומי "בינת על" (superintelligence), שעל־פי סוצקבר ולקי עשויה להוביל לפירוקה של האנושות מכוחה או אף להכחדה.

אלטמן פרסם סדרה של ציוצים במהלך הלילה מאז פיטוריו בהם חלק את העוקבים בתחושותיו: "אהבתי את התקופה בOpenAI. זו הייתה תקופה שבה עברתי שינוי וצמיחה, ואני מקווה שגם העולם חווה זאת כך. יותר מכל, אהבתי לעבוד עם אנשים כל כך מוכשרים". לאחר מספר שעות צייץ אלטמן כי "אם אתחיל, מועצת החברה צריכה לרדוף אחריי תמורת השווי המלא של המניות שלי". עוד צייץ כי "היום הזה הוא חוויה מוזרה במובנים רבים. כמו כן, כתב אלטמן: "טייק אחד בלתי צפוי: זה כמו לקרוא את ההספד שלך בעודך בחיים".

i love you all.

today was a weird experience in many ways. but one unexpected one is that it has been sorta like reading your own eulogy while you’re still alive. the outpouring of love is awesome.

one takeaway: go tell your friends how great you think they are.

- Sam Altman (@sama) November 18, 2023

נוסף על הפרטים סביב נסיבות הדחתו של אלטמן, מדווח דה אינפורמיישן על עזיבתם של שלושה חוקרים בכירים נוספים: יעקב פאצ'וקי, מנהל תחום המחקר בחברה; אלכסנדר מאדרי, ראש צוות הערכת סיכונים; וסימון סיידור, חוקר ותיק בחברה. השלושה היו מקורבים לברוקמן, לפי הדיווחים, נטלו חלק בפיתוח בוט השיחה GPT-4, ואף זכו לשבחים ברשתות החברתיות מפי אלטמן על עבודתם. אלכסנדר מאדרי הצטרף לחברה לפני כחצי שנה, כאחראי על הערכת סיכונים שעלולים להיגרם על ידי בינה מלאכותית לא אחראית, כגון איומי סייבר ונשק ביולוגי.