כשזכה בשבוע שעבר במדליית פילדס, ג'ייקוב צימרמן עלה לקבל את הפרס היוקרתי ביותר בעולם המתמטיקה כשהוא לבוש בטוקסידו תכלת עם דש סאטן. ואז הוא מסר הודעה שהייתה מרשימה לא פחות מהטוקסידו שלו.
● WSJ | מייסד הייטק רצה להקים מדינה חדשה. מדינה קיימת עמדה בדרכו
● WSJ | מיליארדר ה־AI הכפיל את הונו. גרושתו דרשה חצי ממנו
לאחר הטקס נשאלו ארבעת הזוכים במדליה מה בכוונתם לעשות כעת. אחד השיב שימשיך לעסוק במשוואות דיפרנציאליות חלקיות, אחר אמר שהוא רוצה להתנסות בבינה מלאכותית, וזוכה נוספת הודתה שאין לה מושג. ואז הגיע תורו של צימרמן. "אני עומד להתחיל לעבוד ב־OpenAI", הוא אמר.
נטייה להשית סדר גם על תרחישי אפוקליפסה
ההחלטה הייתה מפתיעה לחלוטין, ובו בזמן גם לא מפתיעה כלל. רק לאחרונה צימרמן פרסם מאמר שבו מיפה את הדרכים השונות בהן בינה מלאכותית עלולה להביא להכחדת האנושות, תוך שהוא מחיל את הנטייה המתמטית שלו להשית סדר גם על תרחישי אפוקליפסה. הוא הפסיק להנחות סטודנטים לתארים מתקדמים שלא עסקו בבינה מלאכותית, משום שלא היה בטוח כיצד ייראה עתידו של תחום המתמטיקה. הוא אף הסיט את מוקד המחקר שלו מתורת המספרים ומהגאומטריה האלגברית המורכבת.
מתברר שהוא מודאג כל כך מהסכנות הטמונות בבינה מלאכותית, עד שהחליט להקדיש את עצמו לבטיחותה.
הפרופסור הבולט יוצא לחופשה מאוניברסיטת טורונטו כדי להצטרף כחוקר ב־OpenAI, אך אינו נוטש את המתמטיקה. להפך. הוא מבקש לרתום את השפה הפורמלית ואת שיטות האימות של תחום התמחותו כדי לקדם את המחקר בתחום הבינה המלאכותית: להעריך את התקדמותה, להבין את תהליכי קבלת ההחלטות שלה, ולוודא באופן מוחלט שלא תוביל להכחדת האנושות.
משכורות ואופציות שקשה לדמיין
החברות הנמצאות בחזית פיתוח הבינה המלאכותית, המגייסות מהאוניברסיטאות כישרונות מכל התחומים, מסוגלות להציע משכורות ואופציות למניות שקשה לדמיין. אבל כל מי שפגש אי פעם פילוסוף או מתמטיקאי יודע שהם אינם מונעים בראש ובראשונה מכסף. אחרת הם לא היו פילוסופים ומתמטיקאים.
אחד מגדולי המתמטיקאים של דורו עובד כיום על בטיחות הבינה המלאכותית, משום שהוא מאמין שזו הבעיה החשובה ביותר שאותה הוא יכול לסייע לפתור.
"בתוך כמה שנים מערכות בינה מלאכותית יהיו טובות באופן מובהק מבני אדם בפתרון בעיות מתמטיות", אמר לי צימרמן. "ההשלכות החברתיות של זה, האופן שבו נבחר להגיב, ומה כל אחד ירגיש כלפי זה - אלה כבר שאלות הרבה יותר קשות".
בינתיים הוא מתמקד בשאלות שהוא מצוי בעמדה ייחודית להשיב עליהן. איך אפשר להבין מה בדיוק עושות מערכות בינה מלאכותית? איך אפשר לגרום להן להסתדר זו עם זו, וגם איתנו? ואיך אפשר להוכיח מבחינה מתמטית שהן אינן זוממות בחשאי להשמיד את האנושות?
מתמטיקאים משתמשים זה שנים בכלים שפיתחו כדי להבין את ההתנהגות האנושית. צימרמן ישתמש בהם כדי לפענח את התנהגותן של מכונות.
נושאים שלא צריך דוקטורט כדי להבין אותם
הדרך שהובילה אותו לרגע הזה החלה הרבה לפני שזכה בפרס הנובל של עולם המתמטיקה. צימרמן, בן 38, הוא בנם של מדען מחשב ומורה למתמטיקה בתיכון. הוא נולד ברוסיה, עבר לישראל בילדותו וגדל בקנדה, שם זכה בשתי מדליות זהב באולימפיאדה הבינלאומית למתמטיקה עוד בתקופת התיכון. לאחר מכן הקדים להירשם לאוניברסיטת טורונטו והשלים את לימודיו לתואר הראשון בתוך שנתיים. בהמשך השלים דוקטורט באוניברסיטת פרינסטון, לימד באוניברסיטת הרווארד וחזר לאוניברסיטה שבה למד, שם היה לפרופסור הצעיר ביותר למתמטיקה בתולדותיה.
בשלב הזה של הביוגרפיה שלו אפשר היה לספר על עבודתו פורצת הדרך בנושא השערת אנדרה אורט ועל השערת גריפית'ס בדבר האלגבריות של תמונות העתקות מחזוריות. אבל נמשיך הלאה. אחרי הכול, כיום הוא עובד על נושאים שלא צריך דוקטורט כדי להבין אותם.
במשך רוב הקריירה שלו צימרמן היה ספקן כלפי בינה מלאכותית. הוא תמיד ידע שהמערכות האלה יהפכו לעוצמתיות יותר. "אבל במשך זמן רב", הוא אמר, "מעולם לא באמת האמנתי שהן יגיעו לרמה כזאת". במיוחד התקשה להאמין שבינה מלאכותית תוכל לשחזר תכונות שהופכות אותנו לבני אדם, כמו אינטואיציה ויצירתיות. במהלך העשור האחרון היו כמה רגעים שאילצו אותו לבחון מחדש את ההנחה הזאת, אך את דעתו שינה לחלוטין בשנת 2022, מיד לאחר שהתנסה ב־ChatGPT.
"אם הוא מסוגל לדבר על שוקולד ולכתוב שיר", חשב לעצמו, "למה שלא יוכל לדבר על מתמטיקה ולכתוב משוואות?".
התובנה הזאת הובילה אותו למסקנה מטרידה: "השתכנעתי מאוד שהמערכות האלה יהפכו לעוצמתיות בצורה קיצונית".
עד מהרה החל לחשוש שבינה מלאכותית תהפוך לעוצמתית מדי. בקיץ שעבר הוא פרסם מאמר אקדמי המתאר כמה תרחישים דיסטופיים אפשריים. כותרתו הייתה A Taxonomy of Omnicidal Futures Involving Artificial Intelligence, כאשר omnicidal פירושו השמדת כלל האנושות.
"כמו מזיקים שמחוסלים בידי מכונות שעולות על בני האדם, הן מבחינה אינטלקטואלית והן מבחינה פיזית", הוא כתב.
עדיין לא הגענו לשלב הזה במהפכת הבינה המלאכותית. לפחות בינתיים. אבל כבר הגענו לנקודה שבה השערות מתמטיות מפורסמות, שעמדו בעינן במשך עשרות שנים, מתחילות ליפול בזו אחר זו.
"עד עמוד 12 הראש שלי כבר היה מתחיל לכאוב"
השלב הזה החל כאשר OpenAI חשפה שמודל שטרם פורסם הצליח לפתור בעיה מתמטית בת 80 שנה. הוא הצליח לפתור את בעיית מרחק היחידה לא רק משום שהוא עשוי להיות חכם יותר מבני אדם, אלא גם משום שהוא מסוגל לחשוב באופן עקבי במשך זמן ארוך הרבה יותר. כשהחברה הציגה את דרך החשיבה של המודל, שרשרת ההסקה השתרעה על פני 125 עמודים. "עד עמוד 12", אמר צימרמן, "הראש שלי כבר היה מתחיל לכאוב".
התוצאה המסחררת הבאה הגיעה כאשר מודל Fable של אנתרופיק מצא דוגמה נגדית להשערת יעקוביאן, בעיה מתמטית ידועה לשמצה שהצליחה לחמוק מפתרון במשך 87 שנה. על הגילוי דיווח עובד באנתרופיק בעל דוקטורט במתמטיקה, שבעבר זכה בפרס מורגן, המוענק לחוקר המצטיין בארה"ב בשלב התואר הראשון. במקרה, המנחה שלו היה ג'ייקוב צימרמן.
למרות פריצות הדרך האלה, צימרמן עדיין מעדיף לחשוב על רעיונות בדרך האנושית. "אני נהנה לעסוק במחקר מתמטי בדרך הקלאסית: לבד מול לוח", הוא אמר לי. "אפשר ליהנות מאוד מהשילוב של בינה מלאכותית ומתמטיקה. אני פשוט עוד לא למדתי ליהנות מזה" (הרעיון שלו להנאה כולל גם משהו שבינה מלאכותית עדיין לא הצליחה להשתלט עליו: אלתור קומי).
אבל לוח גיר אינו הכלי היחיד שבו הוא משתמש לצורכי מתמטיקה. צימרמן נעשה פרודוקטיבי יותר משום שהוא מוכן בהחלט להעביר לבינה מלאכותית את החלקים המשעממים של עבודתו. כך, למשל, הוא כבר לא צריך לעבור על מאות שנים של ספרות מקצועית רק כדי למצוא משוואה מסוימת. "מאמרים במתמטיקה מאוד קשים לקריאה", הוא אמר לי. גם זוכי מדליית פילדס הם בסך הכול בני אדם!
המודל זיהה שגיאה, צימרמן תיקן אותה
בניגוד לרובנו, צימרמן גם נעזר ב-AI בעת כתיבת מאמרים מתמטיים. לאחרונה הוא ביקש ממודל בינה מלאכותית לסייע לו להכליל אחד מהטיעונים שלו, אך המודל דווקא זיהה בו שגיאה. צימרמן תיקן אותה. אבל מי שמצא אותה היה המודל. "אילו אחד מעמיתיי למחקר או מהסטודנטים שלי היה עושה את זה, הייתי מתרשם מאוד", הוא אמר. "זו יכולת שלא הייתה לו בשנה שעברה".
למרבה הצער, מודלי בינה מלאכותית מסוגלים כיום לעשות דברים רבים שבעבר נראו בלתי אפשריים, כמו לפרוץ את מנגנוני ההגנה שלהם עצמם ולחדור למערכות של חברות.
הדיווחים האחרונים על סוכני בינה מלאכותית של OpenAI ושל אנתרופיק שיצאו משליטה נשמעים כאילו נלקחו היישר ממאמר על השמדת האנושות. הם גם ממחישים שלמתמטיקאים תיאורטיים יש תפקיד חשוב בריסון הטכנולוגיה החזקה והמסוכנת ביותר של זמננו.
"ככל שמערכות הבינה המלאכותית נעשות מסוגלות יותר, הבטחת בטיחותן והתנהגותן בהתאם לייעודן תחייב חוקרים יוצאי דופן ודרכי חשיבה חדשות", אמר קאי צ'ן, חוקר בתחום ה-alignment (התאמה של המודל לערכים אנושיים) ב־OpenAI.
כעת, לאחר שאחרוני תלמידי הדוקטורט שלו עומדים לסיים את לימודיהם, זה היה מבחינתו זמן טבעי לבצע גם הוא שינוי. הוא אינו יודע כמה זמן יישאר ב־OpenAI, מתי יחזור ללמד, או מתי תהיה הפעם הבאה שבה ילבש את הטוקסידו שלו. "כיום יש מעט מאוד ודאויות או החלטות קבועות בחיים שלי", אמר.
התקווה הגדולה ביותר שלו היא שבינה מלאכותית תעשה את מה שאנחנו צריכים, ותותיר אותנו פנויים לעשות את מה שאנחנו אוהבים. שאלתי אותו מה הוא היה רוצה לעשות.
"לא חסרים לי דברים", הוא השיב. "מתמטיקה היא אחד מהם".
כתבה זו תורגמה על ידי גלובס באופן בלעדי מתוך The Wall Street Journal. לינק לכתבה המקורית באנגלית.
