בהלה בפייסבוק: בינה מלאכותית פיתחה שפה חדשה - ונסגרה

בוב ואליס - שני בוטים בתוכנת הבינה המלאכותית של הרשת החברתית - הפסיקו לתקשר ביניהם באנגלית ויצרו שפה חדשה / סוכנויות הידיעות

בהלה נרשמה בסוף השבוע בחברת פייסבוק לאחר שהתברר שתוכנת בינה מלאכותית יצרה שפה משלה. המערכת פיתחה מילות קוד להגברת יעילות התקשורת, והחוקרים סגרו אותה לאחר שהבינו שהיא חדלה להשתמש באנגלית. כך פורסם ב"דיגיטל ג'ורנל".

נסביר, כי הבינה המלאכותית עובדת על עקרון של "תגמול", במסגרתו היא אמורה לפנות לדרך פעולה מסוימת אם זו מספקת לה "רווח" מסוים. למרות שהאנגלית נחשבת לשפה יעילה מאוד בעיני המין האנושי, ייתכן שהבינה המלכותית מחשיבה את המשפט למיותר או לפחות יעיל כדי להגיע למטרה המיועדת. ככל הנראה, הבינה המלאכותית של פייסבוק החליטה כי ההתבטאויות עתירות-המילים באנגלית אינן נדרשות להשלמת משימתה, ולכן פיתחה שפה משל עצמה.

התקרית, שנחשפה בתחילת יולי, יוצרת פרספקטיבה חדשה לגבי אזהרותיו של היזם המיליארדר, אילון מאסק, מפני הסכנה הנשקפת מהבינה המלאכותית. "הבינה המלכותית היא מקרה נדיר בתחום הרגולציה שבו עלינו לנקוט צעדי מנע מראש במקום להגיב לאחר מעשה", אמר מאסק בכנס האיגוד הלאומי של מושלי מדינות בארה"ב (NGA). "לדעתי, כשנגיב לאחר מעשה באמצעות רגולציית בינה מלאכותית, כבר יהיה מאוחר מדי". כשמנכ"ל פייסבוק, מארק צוקרברג, אמר כי אזהרותיו של מאסק הן "מאוד חסרות אחריות", השיב מאסק כי לצוקרברג יש "הבנה מוגבלת בנושא".

לא הפעם הראשונה

באחד מחילופי הדברים שחשפה פייסבוק, החלו שני בוטים - בוב ואליס - להשתמש בשפה משלהם כדי להשלים שיחה שבה החלו במסגרת אינטראקציה ביניהם."

I can i i everything else", אמר בוב."

Balls have zero to me to me to me to meto me to me to me to me", השיבה אליס.

המשך חילופי הדברים בין השניים היו וריאציות על משפטים אלו בעגה החדשה שהם יצרו, למרות שבוטי בינה מלאכותית מתוכנתים להשתמש באנגלית. לדברי החוקרים, המשפטים הללו הם שפה שפיתחו הבוטים כדי ליידע זה את זה כמה פריטים צריך כל אחד מהם לקבל במסגרת חילופי הדברים. כך, כשבוב אמר: "ii can i i i everything else", נראה שהוא השתמש בשפה החדשה כדי להציע הצעה לאליס. בפייסבוק מאמינים כי הבוט ניסה להגיד: "לי יהיו שלושה, ולך יהיה כל השאר".

זהו לא המקרה הראשון שבו חוקרים מזהים פיתוח של שפה חדשה על ידי מערכות בינה מלאכותית. בכל אחד מהמקרים סטתה הבינה המלאכותית משפת הכשרתה באנגלית ופיתחה שפה חדשה. צירופי המילים בשפה החדשה אינם מובנים לאנשים, אך מתגלים כמכילי משמעות שימושית כשהם מפורשים בידי בוטים שפועלים על בינה מלאכותית. כך, למשל, בגוגל גילה הצוות שמפתח את שירות התרגומים המקוון, כי הבינה המלאכותית יצרה לעצמה בחשאי שפה חדשה שתסייע לה לתרגם משפטים.

"סוכנים חורגים משפה מובנת וממציאים מילות קוד לעצמם", אמר דרוב בטרה, חוקר בינה מלאכותית בפייסבוק, ל-Fast Co. Design. "זה כמו שאני אומר את הא הידיעה חמש פעמים, ואתה מפרש את זה כמשהו שמשמעותו שאני רוצה חמישה עותקים של הפריט הזה. זה לא כל כך שונה מהאופן שבו קהילות של בני אדם יוצרות גרסאות מקוצרות של ביטויים".

לסיכום, אין מספיק ראיות שמאפשרות לטעון כי חריגות לא-צפויות אלה מצידן של תוכנות בינה מלאכותית מהוות איום, או עלולות ליצור מצב שבו ידיחו המכונות את מפעיליהן. חריגות אלה מקשות עוד יותר על הפיתוח, מכיוון שבני אדם אינם מסוגלים לתפוס את טיבה הלוגי של השפה החדשה. במקרה של גוגל, למשל, פיתחה הבינה המלאכותית שפה שאותה לא מסוגל אף אדם להבין, אך ייתכן ששפה זו הייתה הפתרון היעיל ביותר לבעיה.