רובוט / צילום: Shutterstock | א.ס.א.פ קריאייטיב
"שלום נועה. שוב אנחנו נפגשים, והפעם, לראשונה, מול קהל שלא מאנשי IBM. אמרו לי שבמקרים כאלה כדאי לנשום עמוק. למרבה הצער, אני לא ערוכה לזה".
האירוע הוא דיבייט תחרותי שנערך בשבוע שעבר בווטסטון-וסט, מרכז הבינה המלאכותית שהקימה IBM בשכונת SOMA, מעוז הייטקי בסן פרנסיסקו. נועה היא נועה עובדיה, אלופת דיבייט ישראלית, ואת הדברים שצוטטו נשאה יריבתה - שלעובדה שהיא אינה ערוכה לנשום עמוק, אין מנוס אלא לתלות בעובדה שהיא אינה אלא תוכנה עם קול נשי, הבוקע מתוך עמוד שחור בגודל אדם, עם צג בחזית.
זו הפעם הראשונה שהתוכנה המדוברת Project Debater (להלן הדיבייטר), מפגינה את יכולותיה שלא במסגרת הפעלות ניסיון חשאיות. מאז 2012 אימנה אותה מחלקת המחקר של IBM להתדיין עם בני אדם במגוון רחב של נושאים - ובכך הפכה אותה ליורשת של "כחול-עמוק" (המחשב שניצח את גארי קספרוב בהתמודדות שחמט בת שישה משחקים בשנת 1997), ושל "ווטסון", שגבר על קן ג'נינגס ובראד ראטר בשעשועון "מלך הטריוויה" ב-2011.
בדיבייט הפומבי מול עובדיה, טענה הדיבייטר בזכות סובסידיות ממשלתיות לתחום חקר החלל, ואילו עובדיה טענה נגדן. אחר כך התמודדה התוכנה מול אלוף ישראלי אחר, דן צפריר, בנושא ההשקעות הגוברות בתחום הטלה-רפואה (שוב, היא הייתה בעד, הוא נגד). ואם לשפוט לפי הצבעתם של כמה עשרות הצופים באירוע, היא הפסידה בהפרש קטן בדיון בעניין חקר החלל, אבל הצליחה לשכנע יותר מן הנוכחים בעמדתה נגד ההשקעות בטלה-רפואה.
בשני המקרים ניכר שהדיבייטר נמצאת עדיין בתהליכי עבודה, אבל גם שהתוכנה הבינה את טענותיהם של המתעמתים המקצועיים בצורה טובה דיה על מנת להגיב עליהן - ועשתה זאת אפילו תוך שהיא מצחיקה את הקהל, ובכוונה. מה שיותר מאשר מספק בשלב זה את נעם סלונים, איש סגל טכני בכיר במרכז המחקר של IBM בחיפה ומי שהעלה לראשונה את הרעיון לפרויקט, בשנת 2011. את סלונים, עצם יכולתה של התוכנה לשמור על עניין מצד הקהל במשך למעלה מעשרים דקות של דיון, עוררה "הרגשה חיובית מאוד".
אומנם הרגע שבו נראה מחשב מביס את הקספרובים של הדיבייט התחרותי בתחום מומחיותם יהיה רגע מכונן בחיי הבינה המלאכותית - ממש כפי שהוא חקוק בתולדות השחמט - אבל "המטרה שלנו היא לא סתם לפתח עוד מערכת שעושה משהו יותר טוב מבני אדם", כפי שמדגישה עמיתתו של סלונים מחיפה, רנית אהרונוב, העומדת בראש צוות של כמה עשרות חוקרים בכמה וכמה מעבדות של החברה. מה ש-IBM רוצה, מסביר מנהל תחום המחקר בענקית הכחולה ארווינד קרישנה, הוא "ליצור תוכנה שתוכל להתמודד עם אדם בעל יכולות סבירות, לא בהכרח אלוף עולם, ולצאת מזה טוב".
עדיין, גם אם החברה עודה מרסנת את שאיפותיה המוצהרות, הרפתקתה החדשה בתחום הבינה המלאכותית צופנת אתגרים שטרם נתקלה בשכמותם.
מישראל תצא הווכחנות
נחזור כמה שנים לאחור, אל ינואר 2011. זמן קצר אחרי שגבר "ווטסון" על קן ג'נינגס ובראד ראטר בשעשועון הטריוויה שצולם במרכז המחקר של IBM ביורקטאון, ניו יורק, התחילה החברה לתהות כיצד תוכל להתעלות על אותו מפגן מרשים של בינה מלאכותית. "אלפי חוקרים קיבלו כולם את אותו אימייל, שתהה מה אמור להיות האתגר הגדול הבא שמחלקת המחקר של IBM צריכה לקחת על עצמה בתחום הבינה המלאכותית", נזכר סלונים. המטרה, לדבריו, הייתה למצוא פרויקט שיהיה "מעניין ומאתגר מבחינה מדעית, ושיהיה לו גם ערך מבחינה עסקית. משהו גדול ושתהיה לו השפעה".
בתום סיעור מוחות העלו סלונים ועמיתיו את האפשרות לאמן את הבינה המלאכותית כדי להכין אותה לדיבייט מול בן אנוש - ואפשר שלא מפתיע לגלות שהחלום החל דווקא בישראל, שיש בה מסורת איתנה של דיבייטינג תחרותי. "הם בפירוש מאמינים בדיון ובוויכוח חופשיים, על כל צורותיהם, גם בחברה שלהם וגם במערכת הפוליטית", קרישנה מאבחן אותנו, הישראלים.
שנה חלפה עד שהצעתו של סלונים (בצורתה המורחבת והמעודכנת) גברה על האתגרים הגדולים האחרים שהציעו חוקרים בחברה, והחלטה רשמית בעניין התקבלה בשנת 2012. עד מהרה מספר החוקרים המחויבים לפרויקט גדל, וההתקדמות הייתה ניכרת; ב-2016 כבר הייתה בידם גרסה בסיסית של הטכנולוגיה, שפעלה טוב די הצורך כדי להבהיר שלא מדובר בחלום בעלמא; "אבל לא בשום צורה שהיית רוצה לראות", אומר קרישנה. "היית מקבל נושא, ואחרי כמה שעות, התוכנה הייתה חוזרת עם נאום באורך דקה".
מאז, התוכנה כמובן השתכללה. IBM סיפקה לדיבייטר קורפוס עצום של מידע, והזינה אותו במיליארדי משפטים שהגיעו בין היתר ממאות מיליוני מאמרים בעיתונות, כך שהבינה המלאכותית מסוגלת לזהות עובדות ודעות ולארוג את החומרים יחד בכוח האוטומציה שאינו זמין למתמודדים אנושיים. אפילו שהטיעונים שנוצרים באופן הזה עדיין אינם מושלמים בשום צורה ואופן.
בדיבייט בסן פרנסיסקו הציגה התוכנה לפעמים קביעות נחרצות (לדוגמה, שטלה-רפואה מועילה לאימהות עובדות), ומיד המשיכה הלאה בלי להסביר את הכוונה. דבריה בשבח חקר החלל, למשל, הכילו התייחסויות רבות להפתיע למזרח התיכון; הטיה שסלונים משער שטמונה בכך שגוף הידע שלה הוא במקורות מן האזור.
אשר לאריגת רשת הטיעונים - זו בסך הכול נתפרה באופן מהיר יחסית (אפילו שנדרשות לה כמה דקות כדי להכין כל תגובה לטיעון). במקרים רבים התוכנה מנסחת מחדש את החומר שבידיה, אבל חתיכות מן הטקסטים הקיימים עדיין מגיעות אל הנאום בלא שינוי. בדיבייט מול עובדיה בנושא החלל, לדוגמה, התוכנה הסבירה ש"חקר החלל פירושו החקירה והגילוי של גופים שמימיים בחלל החיצון, וזאת באמצעות טכנולוגיית חלל אשר צומחת ומתפתחת בהדרגה". ההגדרה הגיעה כמדומה היישר מן המרכז למדע פלנטרי; מדובר בתוכן שאול, ולא בעדות לכך שהדיבייטר מסוגלת לנסח משפטים בעצמה.
לחשוב כמו בן אדם
יחד עם זאת, ממש כשם שדיבייטרים אנושיים מוצלחים לא חייבים להחזיק בידע רב-תחומי כדי לטעון לטובת העמדה שנקבעה עבורם, העובדות והנתונים שמספקת התוכנה של IBM הם רק חלק מהעניין. האתגר המהותי היה ללמד אותה לטעון "כמו בן אדם" - דבר העומד בניגוד לרבים מתחומי הבינה המלאכותית, שבהם חשיבה כמו בני אנוש עלולה אפילו להזיק. הגרסה הנוכחית של תוכנת AlphaGo Zero של גוגל, למשל, מפליאה לשחק גו משום שלימדה את עצמה לשחק במקום להניח לאסטרטגיות הבלתי-מושלמות של אמני גו בשר ודם להסיח את דעתה.
בעולם הדיבייט התחרותי, לעומת זאת, כל העניין הוא להניע את הקהל באופן אפקטיבי. "אי אפשר לנצח בדיבייט עם טקטיקה שבני אדם לא מבינים", אומר סלונים. "אם... אני... אישמע... רובוטי... ככה... לא תקשיב לי במשך 10 דקות", מוסיף קרישנה. "אתה תירדם. היא חייבת לגוון את נימת הקול. היא צריכה ללמוד איך להשתמש בקצת הומור ואיך לקיים עם בני אדם אינטראקציה שתשאיר אותם מרוכזים".
סלונים ואהרונוב מבהירים אומנם שלא ניסו ליצור תוכנה שאמורה לגרום למישהו להאמין שהיא אדם. הקול הנשי של הדיבייטר לא רע, אבל ניכר בו שהוא סינתטי - בניגוד ל-Duplex הטבעית עד להטריד של גוגל, שמתבלת את דבריה במיני "אה" ו"אהמם" ממוחשבים. הדיבייטר אפילו נוטה להתייחס להיותה מחשב, כפי שמעידה ההערה הזכורה בעניין הנשימה העמוקה מהציטוט שפתח את הכתבה. גם התצוגה שבחזית העמוד המגלם את התוכנה, מציגה רק הנפשה פשוטה המעידה אם הדיבייטר מדברת או חושבת - יותר כמו האור האדום של HAL מסרטו של סטנלי קובריק מאשר אנתרופומורפיזם כהלכתו.
בעימותים בסן פרנסיסקו, הציון שקיבלה הדיבייטר על הסגנון היה רחוק מזה של יריביה האנושיים, עובדיה וצפריר, שהיטיבו להשתמש בנימת הקול ובמחוות הידיים, ועיינו בכובד ראש בדפים שנערכו לפניהם על הפודיום. "בדיבייט מאוד ברור שבני האדם משכנעים יותר, רגשיים יותר ובעלי יכולות רטוריות טובות יותר, בעוד שמערכת הבינה המלאכותית עולה עליהם ביכולתה לספק ראיות רלוונטיות", אומרת אהרונוב. ועם זאת, בזמן שהתוכנה טוענת את שלה, אפשר לראות שהחוקרים של IBM תכנתו אותה כך שתחקה פרקטיקות נבחרות המשמשות את הדיבייטרים האנושיים. לא פעם, למשל, פנתה התוכנה ישירות אל הקהל, על מנת לחזק עמדתה. היא סיפקה רשימות ממוספרות, אזכרה נתונים סטטיסטיים רלוונטיים וציטטה מומחים. בשני הדיבייטים, הדיבייטר אף ניסתה לנטרל את הטיעונים של יריביה עוד לפני שנטענו - התנהגות שאין אנושית ממנה - עם משפטים דוגמת, "אולי תשמעו את היריבה שלי מדברת היום על סדרי עדיפויות ועל סובסידיות". גם כמה ביטויים ערוכים מראש, כמו "בתור התחלה, הרשו לי לספק מעט רקע", עלו בשני הדיבייטים, שפה ושם כאמור אף תובלו בבדיחות, שנבחרו כמדומה ממאגר שסיפקו היוצרים.
ואולם, עם כל הכבוד לתקלות המזדמנות, היא עושה את העבודה טוב די הצורך כדי לזכות במחמאות מפי מקצוענית דיבייטים כמו עובדיה, שהתייצבה מולה לכמה ניסיונות במרוצת כמה חודשים. "בהתחלה הייתי בהלם גם מהדיבור, אבל גם מהאופן שבו הטיעונים נבנו", אומרת עובדיה. "מהיכולת להאזין ואז להפריך בצורה רלוונטית דברים שאמרתי. אפילו שבשלב זה, היא יותר טובה מבחינת הידע הטכני ובפירוש חלשה יותר במה שנוגע לעקרונות הטיעון".
לצד זה, האופן שבו מסננת התוכנה כמויות עתק של טקסט דרך הפילטר של טכניקות הדיבייטינג הנהוגות עשוי גם להניב רגעים משונים. בשלב מסוים, לדוגמה, הכריזה התוכנה שחקר החלל "חשוב יותר מאשר כבישים טובים, בתי ספר מוצלחים יותר או מערכת בריאות משופרת" - וזכתה בקולות צחקוק מן הקהל. היא גם קבעה ש"חקר החלל למטרות שלום באמצעים בעלי הנעה גרעינית אמור להכין את הציבור לקבל בעתיד כלי נשק גרעיניים שיוצבו במסלול" - טענה שהתוכנה הביאה כלשונה מתוך מאמר קיים, לאחר שהחליטה שמדובר בעמדה סבירה ולא בתחזית דיסטופית.
הנוגדן לפייק ניוז?
כישלון פומבי אינו דבר חדש כשמדובר באתגרים הגדולים של מחלקת המחקר של IBM. ניצחונו של כחול-עמוק על גארי קספרוב ב-1997 אומנם נחקק בדפי ההיסטוריה, אבל זכורים פחות שני ניצחונותיו של קספרוב על המערכת הקודמת, מחשבה-עמוקה, ב-1989. בכל הנוגע לווטסון, בספרו "Final Jeoprdy" דיווח סטיבן בייקר כי בזמן שפיתחה IBM את תוכנת "מלך הטריוויה" שלה, היא מצאה ש-5% מן התשובות שלה אינן רק שגויות, אלא "מביכות". גם לאחר ש-IBM טיפלה בבינה המלאכותית במיוחד כדי למנוע מבוכות כאלה, היא סיפקה את השאלה "מהי טורונטו?" באחד מסיבובי המשחק תחת הקטגוריה "ערים בארצות הברית".
הואיל והדיבייטר אמורה לשאת דברים באופן מאולתר-לכאורה כמעט בכל נושא שהוא, סביר להניח שהטעויות שלה יהיו מוזרות ובולטות לעין יותר מאשר של קודמותיה. אבל כל רגע משונה כזה פירושו נקודת נתונים שיכולה לשמש את סלונים, אהרונוב וחבריהם כדי לשפר את הגרסאות הבאות של התוכנה. "כמה מהטעויות שלה באמת מצחיקות והופכות את הדיבייט לחוויה משעשעת, אבל אני חושבת שאפשר ללמוד מהן הרבה", אומרת אהרונוב.
בקבלת הפנים שלאחר הדיבייט סיפר לי קרישנה, שהתקדמותם של יוצרי הפרויקט עדיין מהירה עד כדי כך, שפעולתה של התוכנה צפויה להיות זורמת ומלוטשת יותר כבר בתוך שישה חודשים. אבל לא משנה עד כמה הם מתקדמים, לא יחסרו להם דרכים לפתח את הרעיון השאפתני להפליא הזה הלאה: "זו התחלה של משהו שנוכל לחקור במשך הרבה מאוד שנים", אומר סלונים.
מלכתחילה, עילת החקירה הזו כולה הייתה להוביל לתחומים עסקיים חדשים וחשובים עבור IBM, שתבקש בשלב מסוים גם להרוויח ממה שלמדה. ב-2011, ניצחונו של ווטסון ב"מלך הטריוויה" היה תצוגת תכלית כה מרשימה לבינה המלאכותית של IBM, שהחברה השתמשה במותג ווטסון עבור שירותי בינה מלאכותית בענן שסיפקה בתחומי הבריאות, השירותים הפיננסיים, החינוך ועוד. למרות כל המעקשים והקשיים, יוזמות אלה הן המפתח להווה של IBM כמו גם לעתידה. יש להניח כי במוקדם או במאוחר ינצלו שירותי ווטסון גם את הידע שנצבר הודות לדיבייטר.
קרישנה, שמחזיק בשני תארים בחברה - מנהל תחום המחקר וסגן נשיא בכיר לענייני ענן היברידי - אומר שהמחויבת הכפולה הזו, הן למחקר הטהור והן לאינטרסים העסקיים של החברה, דורשת ממנו נכונות ל"סכיזופרניה". לצד זאת, הוא מדגיש שהאנשים האחראים ליוזמה כמו הדיבייטר לא צריכים להטריד את עצמם בתהייה כיצד עתיד הפרויקט להניב רווח לחברה. "צריך שיהיה איזשהו מושג לגבי הפוטנציאל העתידי, אבל זה לא דבר שאתה רוצה שיכביד על הצוות", הוא אומר. "רוב האנשים לא יצליחו להתקדם תחת עול כזה". ועם כל זאת, הוא רואה הרבה דרכים שבהן עשויה יוזמת המחקר הזו להניב רווחים. ארגונים רבים עשויים למצוא תועלת בתוכנה שבכוחה לעבד מידע ולסכם נקודות בעד ונגד בסוגיה נתונה, הוא אומר. הטכנולוגיה הזו יכולה אפילו לשמש נוגדן לתפוצתו של פייק ניוז הודות ליכולתה לנתח טקסט ולעמוד על הטיות דעה.
אל תהיו לודיטים
IBM בפירוש אינה החברה היחידה הסבורה כי הדרך למחשבים חכמים יותר עוברת בכך שננחיל להם את היכולת להתדיין. אחד הנוכחים באירוע בסן פרנסיסקו הוא כריס ריד, העומד בראש המרכז לטכנולוגיית טיעון באוניברסיטת דנדי. הוא הגיע כל הדרך מסקוטלנד כדי לחזות באירוע, ואף שאינו מעורב בפרויקט, הוא היה נלהב מאוד: "זה מרשים ממש, לראות כל-כך הרבה חתיכות של הפאזל מתחברות כאן".
לקראת סיכום דבריה בשבח השימוש בטלה-רפואה, ציטטה הדיבייטר את הסופר המפורסם ארתור סי. קלארק, שטען ש"אין אפשרות להבדיל בין טכנולוגיה מתקדמת דיה לבין קסם". השימוש בציטוט היה מלבב למדי, גם אם לא לגמרי רלוונטי לנושא שעל הפרק. מצבו הנוכחי של הפרויקט כולו, עם זאת, מוכיח דווקא דבר אחר: טכנולוגיה לא חייבת להיות קסומה כדי להיות משמעותית. כמו שאמרה התוכנה עצמה, בניסיון לצייר את יריבה האנושי, צפריר, כלודיט (תנועה חברתית שמחתה נגד הכנסת נולי אריגה במהפכה התעשייתית של המאה ה-19). "אל תפחד", אמרה הדיבייטר, "העולם משתנה ואנחנו צריכים להתקדם איתו".