40 שנה הוא צדק לגבי הבינה המלאכותית. עכשיו הוא חושב שכולם טועים

יאן לקון המציא רכיבי בסיס רבים של ה-AI המודרני • כעת האיש החריג במטא משוכנע שרוב השחקנים בתחום מסונוורים ממודלי שפה גדולים כמו ChatGPT ושבתוך חמש שנים לכל היותר, הם יעלמו: "אף אדם שפוי לא ישתמש בהם יותר"

יאן לקון. זכה בפרס טיורינג הנחשב / צילום: Reuters, Ron Sachs - CNP
יאן לקון. זכה בפרס טיורינג הנחשב / צילום: Reuters, Ron Sachs - CNP

כסטודנט לתואר שני בשנות ה-80, יאן לקון התקשה למצוא מנחה לעבודת הדוקטורט שלו על למידת מכונה, משום שאיש לא חקר את הנושא, כך נזכר מאוחר יותר.

האם השקעה לאומית של 340 מיליון דולר ירדה לטמיון? הטכנולוגיה הישראלית שבסכנה
סוגרים פוזיציות "מתחת למים": העסקאות הממונפות בקריפטו הפכו לבור הפסדים

בשנים האחרונות הפך לקון ל"איש החריג" במטא. למרות תהילתו העולמית כאחד מ"אבות הבינה המלאכותית", הוא נדחק יותר ויותר לשוליים ככל שהגישה של החברה התרחקה מתפיסותיו לגבי עתיד הטכנולוגיה. ביום שלישי פורסם כי ייתכן שבקרוב יעזוב את מטא כדי להקים סטארט-אפ שמתמקד במה שמכונה "מודלי עולם" - טכנולוגיה שלקון סבור שתקדם את מצב ה-AI יותר מאשר מודלי השפה הגדולים (LLMs) שבהם מטא מתמקדת כיום.

מנכ"ל מטא מארק צוקרברג משקיע מיליארדים על גבי מיליארדים במרדף אחר מה שהוא מכנה "סופר-אינטליגנציה". הוא גם מגייס צבא של חוקרים מובילים כדי לפתח את מודל השפה הגדול של החברה, Llama, לכזה שיוכל להתעלות על ChatGPT ועל ג'מיני של גוגל.

לקון בחר ללכת בכיוון אחר. לכל מי ששואל אותו הוא אומר שלדעתו מודלי שפה גדולים הם דרך ללא מוצא במרדף אחר מחשבים שיכולים להתעלות על בני אדם. הוא אוהב להשוות את המודלים המובילים כיום לתודעה של חתול - והוא מאמין שהחתול חכם מהם. לפני כמה שנים הוא נסוג מתפקיד ניהול חטיבת ה-AI במטא, שנקראת FAIR, לטובת תפקיד של חוקר יחיד המבצע מחקר ארוך טווח.

"אני לא בדיוק עושה לעצמי חברים בעמק הסיליקון, כולל במטא, כשאני אומר שבתוך שלוש עד חמש שנים מודלי עולם, ולא LLMs, יהיו הארכיטקטורה הדומיננטית של מערכות ה--AI; אף אדם שפוי לא ישתמש יותר ב-LLMs מהסוג שיש לנו היום", אמר בן ה-65 בחודש שעבר בסימפוזיון במכון הטכנולוגי של מסצ'וסטס (MIT).

לקון שוחח עם מכרים על הקמת סטארט-אפ שמתמקד במודלי עולם, הוא מגייס עמיתים ומשוחח עם משקיעים, כך דווח לאחרונה בוול סטריט ג'ורנל. מודל עולם לומד על היקום שסביבו באמצעות קלט חזותי, בדומה לגור של בעל חיים או לילד קטן, בניגוד ל-LLMs, שהם מודלים חיזויים המבוססים על מאגרי טקסט עצומים.

לקון לא הגיב לפניות לתגובה, ומטא סירבה להגיב.

מה אפשר ללמוד מהמסלול של יאן לקון

 ● לעשות דברים שאינם בליבת העבודה - יאן מנגן על כלי נשיפה, חובב ג'אז, מעמיק בפיזיקה ובשלל תחומים שלא קשורים למחשבים.

● "לעבוד עם אנשים חכמים ממך - זה מגביר את היכולות שלך עצמך".

● להקשיב להשקפות של אחרים, אבל לאחוז בדעות מוצקות

● הצעתו לחוקרים צעירים: "אם אתם דוקטורנטים ב-AI,
אתם בהחלט לא צריכים לעבוד על LLMs".

הקדים את זמנו

לקון נולד בפריז, גדל בפרברי העיר ולמד בשנות ה-80 במה שמוכר כיום כסורבון בצרפת. בזמן הדוקטורט הוא נישא לאשתו, איזבל, ולזוג נולדו שלושה בנים. כנגן כלי נשיפה מעץ, הוא ניגן בהרכב שליווה לעיתים להקת מחול מתקופת הרנסנס.

כאדם שתמיד מקדים את זמנו, לקון חקר למידת מכונה עוד לפני שהפכה לטרנד. הוא עבד במעבדת ה-AI של זוכה פרס נובל ג'פרי הינטון בטורונטו, לפני שהינטון הפך לאגדה בתחום הבינה המלאכותית. חלק ניכר מתחילת הקריירה שלו בילה בניו ג'רזי, במעבדות בל, ששמו נודע במספר העצום של המצאות שיצאו ממנו.

"הדבר שמרגש אותי יותר מכל הוא לעבוד עם אנשים חכמים ממני, כי זה מגביר את היכולות שלך עצמך", אמר לקון למגזין Wired ב-2023.
במעבדות בל, לקון סייע לפתח טכנולוגיית זיהוי כתב יד שהפכה לנפוצה בבנקים לצורך קריאה אוטומטית של המחאות. הוא עבד גם על פרויקט דיגיטציה והפצה של מסמכי נייר דרך האינטרנט.

לקון, שתמיד התעניין בפיזיקה, עבד במעבדות בל בעיקר עם פיזיקאים וקרא מספר רב של ספרי לימוד בתחום.

"למדתי הרבה מאוד מקריאת חומרים שלא נראים קשורים במישרין ל-AI או למדעי המחשב", אמר במהלך מפגש שאלות ותשובות ב-Reddit לפני 12 שנה. "התואר הראשון שלי הוא בהנדסת חשמל, וההכשרה הפורמלית שלי במדעי המחשב די מצומצמת".

ב-2003, לקון החל ללמד מדעי המחשב באוניברסיטת ניו יורק (NYU), ומאוחר יותר הפך למנהל שייסד את מרכז מדעי הנתונים שלה. כשהוא בניו יורק, הוא ידוע כמי שמרבה לפקוד את מועדוני הג'אז בעיר.

ב-2013, צוקרברג גייס אותו אישית לעמוד בראש חטיבת AI חדשה, במה שנקרא אז פייסבוק. לקון ניהל את המעבדה ארבע שנים, עד שפרש ב-2018 מתפקידו כראש החטיבה, והפך לחוקר יחיד ולמדען הראשי של ה-AI בפייסבוק.

הוא זכה ב-2018 בפרס טיורינג, הפרס היוקרתי ביותר במדעי המחשב, יחד עם הינטון ויהושע בנג'יו, על עבודתם הבסיסית על רשתות נוירונים, מערכות מרובות שכבות שמונחות בבסיס מערכות AI רבות ועוצמתיות, החל בצ'טבוטים של OpenAI ועד מכוניות אוטונומיות.

מאז לקון, שמדבר במבטא צרפתי קל ומזוהה עם משקפי ריי-באן שחורות וחולצות מכופתרות, הפך בעיקר לסמל עבור החברה. הוא לא היה חלק מהצוות שסייע ליצור את מודל השפה הגדול הראשון בקוד פתוח של מטא, Llama, והוא לא מעורב בפעילות היומיומית של פיתוח המודלים הללו מאז.

לקון עובד על הפרויקטים שלו ונוסע לכנסים, שם הוא מדבר על משקפי ה-AI של מטא ועל תפיסותיו לגבי הדרך לקידום ה-AI, בין היתר, כך סיפרו אנשים שעבדו איתו.

ליאון בוטו, חבר ותיק של לקון, אמר בעבר לוול סטריט ג'ורנל שהוא "עקשן בדרך טובה", כלומר מוכן להקשיב להשקפות של אחרים, אבל בעל דעות מוצקות משלו.

יש לו דעות נחרצות בנוגע למגוון נושאים אחרים. "אני כל מה שהימין הדתי מתעב", כתב באתר האישי שלו: "מדען, אתאיסט, שמאלן (לפחות לפי הסטנדרטים האמריקאיים), פרופסור באוניברסיטה וצרפתי".

ההיפרדות מהקו של מטא

רוב ההתבטאויות האחרונות שלו הן עקיצות נגד ה-LLMs הניצבים במרכז השאיפות של צוקרברג, ושל כמעט כל ענקית טכנולוגיה אחרת.

"לא נגיע לבינה מלאכותית ברמת אנוש רק דרך הגדלת מודלי שפה גדולים", אמר בפודקאסט Big Technology של אלכס קנטרוביץ' באביב האחרון. "אין מצב, פשוט אין מצב, ומה שלא תשמעו מחלק מהקולגות ההרפתקנים יותר שלי - זה לא הולך לקרות בשנתיים הקרובות. אין שום סיכוי בעולם".

בקיץ השנה, כחלק ממהלך ארגוני גדול, צוקרברג מינה את אלכסנדר וואנג, בן 28, לקצין ה-AI הראשי החדש של מטא, הבוס החדש של לקון, ואת שנג'יה ז'או, מיוצרי ChatGPT, למדען הראשי החדש של מטא.
עובדים בחטיבת ה-AI של מטא, המונה יותר מאלף איש, התחילו לשאול זה את זה: מה יקרה ללקון?

חלקם ראה במינויים הללו סימן שלקון נדחק הצידה לאחר שלא הצטרף לחזון ה-AI של צוקרברג.

"לא חל שום שינוי בתפקיד של יאן. הוא ימשיך להיות המדען הראשי של FAIR!", כתב המנכ"ל ברשתות החברתיות ביולי, בהתייחסו לחטיבת ה-AI שלקון גויס לעמוד בראשה לפני יותר מעשור. "אני מצפה לעבוד עם שנג'יה", הגיב לקון.

בחודשים האחרונים, לעומת זאת, חטיבת ה-AI שלקון בנה, שבעבר שגשגה, התמודדה עם קיצוצי כוח אדם ומשאבים, ואיבדה יוקרה בתוך מטא, לדברי עובדים ויוצאי החברה.

במשך זמן רב נחשבה החטיבה למקום שבו ניתן לדון ברעיונות גבוהים על עתיד הבינה המלאכותית, לבצע ניסויים שאולי יצליחו ואולי לא, ולא לחשוב יותר מדי על האופן שבו פריצות הדרך המחקריות הללו יהפכו למוצרים בפועל.

כעת, ארגון המחקר החדש של מטא בתחום ה-AI, העמוס בגיוסים חדשים שמשתכרים מיליוני דולרים, מנוהל על ידי וואנג, שדוחף את הצוותים להשיג פריצות דרך מהירות שיהפכו למוצרים בקצב מהיר.

לקון בינתיים מפלס דרכו ברחבי אסיה ואירופה ומרצה בכנסים. באחת מהרצאותיו השנה חילק עצות לחוקרים בתחילת הדרך: "אם אתם דוקטורנטים ב-AI, אתם בהחלט לא צריכים לעבוד על LLMs".