מה יאמר אסימוב? גוגל תנסח כללי מוסר לפיתוח בינה מלאכותית

הצעד מגיע לאחר שאלפי עובדי החברה חתמו על עצומה שדרשה מגוגל לבטל את מעורבותה בפרויקט עם הפנטגון • החברה הצהירה כי לא תאפשר פיתוח של נשק המתבסס על בינה מלאכותית

מטה גוגל בקליפורניה / צילום: שאטרסטוק
מטה גוגל בקליפורניה / צילום: שאטרסטוק

גוגל מנסחת סט חוקים מנחים ועקרונות מוסריים בנוגע למערכת הבינה המלאכותית, שהיא מפתחת עבור צבא ארה"ב - כך דווח ב"ניו-יורק טיימס". עוד לא ברור מה יהיה תוכן החוקים המלא, שיוכרזו ככל הנראה בשבועות הקרובים, אך החברה הצהירה כי לא תאפשר פיתוח של נשק המתבסס על בינה מלאכותית.

עוד נחשף ב"ניו-יורק טיימס" כי גוגל תרוויח 9 מיליון דולר מהפרויקט, סכום הנחשב נמוך יחסית.

הצעד של החברה מגיע בעקבות המחלוקת שגררה מעורבותה בפרויקט. במסגרת הפרויקט עליו דווח לראשונה במארס, החברה תפתח עבור הפנטגון כלים לניתוח צילומי אוויר שצולמו על-ידי רחפנים. אלפי עובדי גוגל חתמו על עצומה שדורשת מהחברה לבטל את מעורבותה בפרויקט, ותריסר עובדים אף התפטרו במחאה. עובדי רבים בגוגל דנים ביתרונות ובחסרונות של שיתוף-הפעולה המדובר בפגישות ובהתכתבויות פנימיות. גם מחוץ לגוגל הפרויקט גרר התנגדות, ו-200 חוקרים בתחום הבינה המלאכותית חתמו על עצומה נוספת נגדו.

התכתבויות אימייל פרטיות שהגיעו לידי ה"ניו-יורק טיימס" חושפות כי גוגל צפתה את ההתנגדות מראש. "תמנעו בכל מחיר מלהזכיר בינה מלאכותית בהכרזה על הפרויקט" כתב פיי-פיי לי, מדען ראשי בגוגל קלאוד. "נשקים עם בינה מלאכותית הם ככל הנראה אחד הנושאים הרגישים ביותר בתחום הבינה המלאכותית, אם לא הרגיש מכולם. התקשורת תשתמש בזה כדי לפגוע בגוגל", הוסיף באימייל פנימי. אך גוגל מעולם לא הכריזה על הפרויקט באופן רשמי, ובתגובה לחשיפתו ולסערה שעורר היא טוענת כי הטכנולוגיה רק תסמן תמונות שצריכות לעבור בחינה של אדם, וכי יעשו בה שימושים לא התקפיים בלבד.