מנכ"לי ענקיות הטכנולוגיה מזהירים מ"איום ההכחדה" של הבינה המלאכותית, אבל ממשיכים בכל הכוח

נדמה שאין יום שבו מנהלי ענקיות הטכנולוגיה אינם מסננים אזהרה כזו או אחרת לגבי סכנותיה של הבינה המלאכותית. בחודש מרץ האחרון חתמו אילון מאסק וסטיב ווזניאק, אחד ממייסדי אפל, על מכתב שמזהיר מסכנות המרוץ לפיתוח הבינה המלאכותית: "מערכות עם אינטליגנציה אנושית-תחרותית עלולות להציב סיכונים משמעותיים לחברה ולאנושות", כתבו.

מוקדם יותר החודש התייצב מייסד ומנכ"ל OpenAI, החברה שעומדת מאחורי מנוע השיחה ChatGPT, מול חברי הסנאט האמריקאי והודה כי "אם הטכנולוגיה הזו משתבשת - זה עלול להיות שיבוש של ממש". כפתרון, הציע אלטמן לגבש סוכנות ממשלתית שתהיה אחראית על מתן רישוי לחברות המבקשות לפתח בינה מלאכותית רבת עוצמה. על הממשלות לחייב חברות לעמוד בסטנדרטים של בטיחות ולבחון את המערכות לפני השקתן.

היום (ג') חתם אלטמן על עצומה קיצונית אפילו יותר. במשפט אחד קצרצר תמצת אלטמן ושורה של בכירים ומדענים בתחום הבינה המלאכותית את הסכנה הטמונה בה: "הכחדה בידי בינה מלאכותית היא סכנה שצריך להתמודד איתה באותה רמת חשיבות לפחות כמו מלחמה גרעינית או מגפה". המכתב נוסח מטעם "המרכז לבטיחות הבינה המלאכותית", עמותה ללא כוונת רווח.

מלבד אלטמן, חתמו עליה כ- 350 חוקרים, מנהלים ומהנדסים בהם דמיס הסביס, מנכ"ל דיפ מיינד, חברת הבינה המלאכותית של גוגל וג'פרי הינטון, המכונה "הסנדק הבינה המלאכותית", שפרש מגוגל לפני מספר שבועות בגלל אותה הטענה ממש. מעניין לציין שיאן לקון, ראש תחום הבינה המלאכותית במטא, לא חתם על העצומה.

כבר היום עולה החשש כי כלי בינה מלאכותית יוצרת כמו ChatGPT או סטביליטי יכולים לסייע בהפצת מידע כוזב באמצעות התחזות לגורמים אמינים, או לחלופין לגרום לאבטלה המונית על ידי ייתור משרות צווארון לבן כמו פיתוח תוכנה או ראיית חשבון ברמה בסיסית. עם זאת, איש איננו יודע כיצד יראו איומי העתיד של הבינה המלאכותית, וככל הנראה כל סוג של תסריט שבו משתלטת מכונה יצירתית במיוחד על נכסים אנושיים, עולה גם בראשם של המדענים האמונים על פיתוח הטכנולוגיה החדשנית.

פונה לפוליטיקאים ומציג את הסכנה הפיתוחים שלו

לזכות אלטמן, יש לציין, עומדות נסיונותיו החוזרים ונשנים לפנות לפוליטיקאים ולהציג את הסכנה הטמונה בתוצרי הפיתוח שלו. מלבד הסנאט האמריקאי, הוא הספיק להיפגש החודש בנושא זה עם נשיא ארה"ב ג'ו ביידן; נשיא צרפת עמנואל מקרון; ראש ממשלת בריטניה רישי סונאק, ובשבוע הבא הוא צפוי להפגש עם נשיא המדינה יצחק הרצוג בנושא זה. יחד עם זאת, אלטמן וחבריו נהגו להשתמש בביטויים רכים יותר. זו הפעם הראשונה שבה אלטמן ועמיתיו אומרים בפומבי את מה שרבם אמרו בחדרי חדרים: הבינה המלאכותית מהווה סכנה לאנושות.

ענקיות הטכנולוגיה לא יפסיקו את הפיתוח שלהן, למרות העצומה שיזם אילון מאסק להשהות את פיתוח המודלים המרכזיים למשך חצי שנה. להפך, הן מצויות במרוץ חימוש מהיר להשגת יתרון תחרותי. השליטה על נתח שוק בתחום הבינה המלאכותית היוצרת מגדירה כבר היום את עתידן של חברות הענק כמו מיקרוסופט, גוגל ואמזון. עליית המנייה של אנבידיה בעקבות השיפור בתחזית ההכנסות הוכיח לתעשייה כולה כמה רלוונטית יכולה להיות הטכנולוגיה לשווי השוק של החברה המפתחת אותה.

לזכותן יש לציין כי הן היו הראשונות לזהות את הסכנה, הרבה לפני הפוליטיקאים, שטרודים יותר מדי בבעיות ההווה ולא בסכנות העתיד. אלטמן יגיע לישראל בשבוע הבא וצפוי להפגש גם עם בכירים במערכת הפוליטית הישראלית - מעניין יהיה לראות את הניגודיות בין קוצר הרואי של המנהיגים המקומיים אל מול החזון המורבידי ומרחיק הלכת של אלטמן.