אינטליגנציה מלאכותית תגדיר את עתיד גוגל. כרגע היא אתגר ניהולי

חברת האם של גוגל, אלפאבית, מסתבכת בשערוריה אחת אחר השנייה שמערבות את מיטב חוקרי ומנהלי החברה בתחום

סונדאר פיצ'אי, מנכ"ל אלפאבית / צילום: Associated Press, Tsering Topgyal
סונדאר פיצ'אי, מנכ"ל אלפאבית / צילום: Associated Press, Tsering Topgyal

מנכ"ל אלפאבית סונדר פיצ'אי הימר בגדול על אינטליגנציה מלאכותית כחיונית לעתיד החברה והשקיע מיליארדים להטמעת הטכנולוגיה במחלקות השונות של ענקית הטכנולוגיה. כיום, הפכה המחלקה לאחד מאתגרי הניהול הקשים איתם הוא מתמודד.

ב-18 החודשים האחרונים, נאלצה חברת האם של גוגל לכבות שריפה אחרי שריפה הקשורות לחוקרים הראשיים שלה והמנהלים של מחלקת האינטליגנציה המלאכותית בחברה.

במקרה המתוקשר האחרון, נפרדה גוגל לפני חודשיים מחוקרת אינטליגנציה מלאכותית נחשבת, טימנטי גברו, לאחר שהגישה לחברה מחקרים שביקרו את גישתה לאינטליגנציה מלאכותית והתלוננה בפני קולגות לגבי מאמצי הגיוון האנושי בגוגל. ממצאי המחקר שלה היו שגוגל לא הייתה זהירה מספיק בשימוש בטכנולוגיה החזקה וכמו כן שהחברה לא התחשבה בשיקולים סביבתיים וההשפעה שתהיה על איכות הסביבה לבניית מחשבי-על.

פיצ'אי הבטיח חקירה של הנסיבות סביב עזיבתה של החוקרת ואמר שיבקש לשחזר את האמון בין העובדים לחברה. הבוס של גברו, ג'ף דין, אמר לעובדים אחרים שהגיע למסקנה שהמחקר של גברו לא היה מעמיק מספיק.

כמעט 2,700 עובדי גוגל חתמו מאז על מכתב ציבורי בו נכתב שפיטוריה של גברו "מצביעים על הסכנה עבור מי שעובד למען אינטליגנציה מלאכותית אתית וצודקת - במיוחד אנשים שחורים ואנשים שאינם לבנים - בכל רחבי גוגל".

בשבוע שעבר, הודיעה גוגל שהיא חוקרת את מרגרט מיטשל, מנהלת עמיתה של אינטליגנציה מלאכותית הוגנת בחברה, בגלל שהיא הורידה ושיתפה לכאורה מסמכים פנימיים של גוגל עם אנשים מחוץ לחברה. מיטשל, שמתחה ביקורת על פיצ'אי לגבי ניהול נושאי הגיוון בחברה, לא הגיבה לבקשות תגובה.

גוגל רוצה להיות נושאת הדגל לאינטליגנציה מלאכותית אתית

הגישה של אלפאבית לתחום האינטליגנציה המלאכותית נבחנת מקרוב, מפני שהחברה הענקית נחשבת למובילת התעשייה במימון מחקר - פנימי וחיצוני - ופיתוח יישומים חדשים לטכנולוגיה, החל בייצור רמקולים חכמים ועד תכנות עוזרים קוליים מקוונים. התחום נמצא עדיין בחיתוליו והוא מעלה שאלות קשות לגבי ההשפעה הגוברת של אלגוריתמים ממוחשבים על תחומים רבים בחיים הציבוריים והאישיים.

גוגל שואפת למצב עצמה כנושאת הדגל לאינטליגנציה מלאכותית אתית. "ההיסטוריה מלאה דוגמאות לכך שיתרונות הטכנולוגיה אינם מובטחים", אמר פיצ'אי, כשנשא דברים במכון מחקר בבריסל בשנה שעברה. "בעוד האינטליגנציה המלאכותית מבטיחה יתרונות עצומים לאירופה ולעולם, ישנם חששות אמיתיים לגבי ההשלכות השליליות הפוטנציאליות שלה".

מאמציה של גוגל להתפתח אינטליגנציה מלאכותית הוסיפו לאתגרים הניהוליים של החברה. בצעד שלא דווח עד עתה, גוגל נישלה ממוסטפא סולימאן, מייסד שותף של זרוע האינטליגנציה המלאכותית של גוגל בלונדון, DeepMind, את רוב הסמכויות לאחר שעובדים התלוננו על יחס מתעמר ממנו, כך אמרו אנשים המכירים את הנושא.

חברת DeepMind, שנרכשה על ידי גוגל ב-2014, שכרה משרד עורכי דין חיצוני על מנת לבצע חקירה עצמאית לגבי התלונות. בסוף שנת 2019, הועבר סולימאן לתפקיד ניהולי אחר בצוות האינטליגנציה המלאכותית בגוגל.

בהודעה משותפת, גוגל ו-DeepMind אישרו שהתקיימה חקירה לגבי התנהלותו של סולימאן. בהודעה לא פורט מה היו ממצאי החקירה. על פי ההודעה, בעקבות החקירה החל סולימאן "לעבור הדרכות מקצועיות לגבי נושאים עליהם ישנו חשש, והתהליך נמשך. כמו כן, הוא לא מנהל צוותים גדולים". החברות הודיעו שבתפקידו הנוכחי של סולימאן, כסגן נשיא למדיניות אינטליגנציה מלאכותית, "הוא תורם תרומות בעלות ערך לגבי רגולציה ומדיניות הקשורה באינטליגנציה מלאכותית".

בתגובה לשאלות הוול סטריט ג'ורנל, אמר סולימאן שקיבל "משוב על כך שבתור מייסד שותף של DeepMind, לחצתי מדי על אנשים ולפעמים סגנון הניהול שלי לא היה קונסטרוקטיבי". הוא הוסיף: "אני מתנצל ללא הסתייגות בפני כל מי שנפגע ממני".

מינויו של סולימאן לתפקיד בכיר בגוגל לא מצא חן בעיני כמה מעובדי DeepMind; ציוץ מג'ף דין שבירך אותו על תפקידו החדש בגוגל הרגיז אותם עוד יותר, כך אמרו כמה אנשי צוות בעבר ובהווה.

"אני מצפה לעבוד איתך יותר מקרוב", כתב דין בציוץ.

שלא כמו בחיפוש של גוגל, בו משמשת אינטליגנציה מלאכותית לארגון מחדש ולהצפה של מידע ציבורי קיים, DeepMind מתמקדת במידה רבה בנושאי בריאות, למשל עיבוד של כמות גדולה של נתוני חולים על מנת למצוא דרכים חדשות לטפל במחלות.

החברה נאבקה לעמוד בציפיות הכספיות ממנה. DeepMind הפסידה 649 מיליון דולר ב-2019, כך לפי דיווח שהוגש בבריטניה בחודש שעבר. גוגל מחקה לחברה הלוואות בגובה מיליארד דולר בתקופה זו, כך נכתב בדיווח.

בזמנים שונים בעבר ניסתה גוגל להקים מערכת פיקוח יותר נרחבת לגבי הפרויקטים של החברה על אינטליגנציה מלאכותית, בהצלחה מעורבת.

צוות עצמאי לביקורת על DeepMind, שהיה אמור לבדוק את ביצועי היחידה ולהפיק דו"ח שנתי ציבורי, פורק לקראת סוף 2018 לאחר שאנשי חבר המנהלים התלוננו על מה שהגדירו כגישה מוגבלת לתוכניות המחקר והאסטרטגיה של החברה.

אחרי כמה חודשים, וועידת אתיקה באינטליגנציה מלאכותית חיצונית שהוקמה בידי גוגל פורקה תוך שבוע, לאחר שעובדים מחו על מה שהגדירו כהטיה ימנית בקרב המנהלים וחתמו על עצומות בנושא. דובר של גוגל בזמנו אמר שהחברה "תמצא דרכים שונות לקבל חוות דעת חיצוניות על הנושאים האלה".

"שגיאה קטנה אחת והכל עשוי להתפוצץ לנו בפרצוף"

מאמצי המחקר באינטליגנציה מלאכותית בגוגל החלו לפני כעשור, והתחום הזה מנוהל על ידי ג'ף דין באופן עצמאי משנת 2017. באותה שנה, כשהודיע על השינוי המבני, אמר פיצ'אי שאינטליגנציה מלאכותית תהיה מרכזית בפעולות של החברה ובאסטרטגיה שלה, ושמחשוב מתקדם - המכונה למידת מכונה - משמש בכל עסקי החברה.

פדרו דומינגוס, פרופסור למדעי המחשב מאוניברסיטת וושינגטון, אמר שגוגל מודעת היטב למכשולים הרבים הכרוכים באינטליגנציה מלאכותית. הוא זוכר שיושב ראש חבר המנהלים באלפאבית ג'ון הנסי אומר לו בשיחה לפני כמה שנים שהחששות הגדולים ביותר שלו קשורים להרחבת מאמצי גוגל בתחום זה.

דומינגוס נזכר שהנסי אמר לו אם משהו יהיה לא כשורה בקשר לאינטליגנציה מלאכותית - אפילו בחברות אחרות - האשמה תוטל על גוגל.

"אנחנו נמצאים במרחק של שגיאה קטנה אחת והכל עשוי להתפוצץ לנו בפרצוף" אמר הנסי, על פי דומינגוס. הנסי אמר שהוא לא זוכר את השיחה הזו אבל כנראה שדומינגוס זוכר אותה היטב.

שגיאה קטנה כזו קרתה ב-2015, כשכמה משתמשי גוגל שחורים הופתעו כשרכיב האינטליגנציה המלאכותית בתוכנת הצילום החינמית של החברה תייג את אחד מאלבומי הצילומים שלהם "גורילה" על בסיס צבע עורם.

גוגל התנצלה ותיקנה את התקלה. באופן ציבורי, החברה הבטיחה להכפיל את המאמץ לבנות הגנות פנימיות בתוכנה על מנת לוודא שהיא פועלת באופן אתי.

המאמץ כלל שכירת חוקרים כמו גברו, שהייתה קודם מנהלת משותפת של צוות האינטליגנציה המלאכותית האתית בחברה. גברו הייתה מתבטאת באופן גלוי לגבי המגבלות של תוכנות זיהוי פנים בזיהוי אנשים עם עור כהה.

היא הייתה אחת ממאות עובדים שהפיקו מחקר, חלקו בשיתוף מוסדות אקדמיים, על אינטליגנציה מלאכותית. שלא כמו מהנדסים אחרים בגוגל, קבוצת האינטליגנציה המלאכותית מתפקדת יותר כמו מחלקה באוניברסיטה - משימתה היא לדון בנושאים נרחבים ולא לפתור תקלות במוצרים.

כמה זמן אחר כך דווח בסוכנות הידיעות רויטרס שלפני עזיבתה של גברו, החלה גוגל בבחינה של נושאים רגישים ובשלושה מקרים לפחות ביקשה מאנשיה לא להציג את הטכנולוגיה באור שלילי. גוגל לא הגיבה לגבי עניין זה.

גברו ודין לא הסכימו להגיב לכתבה זו.

בגוגל אמרו שההתקדמות בתחום האינטליגנציה המלאכותית עזרו להביא לתוצאות חיפוש מהירות ומדויקות יותר - כמו גם להצגת פרסומות יותר רלבנטיות.

דומינגוס אמר שרוב הבעיות של גוגל בקשר לאינטליגנציה מלאכותית נעוצות בגישת החברה לניהול עובדים. הוא הוסיף שמדע ולא אידיאולוגיה צריך להיות הקול המוביל בדיונים אתיים.

"גוגל היא המלטפת הראשית", אמר. "העובדים שלהם כל כך רגילים להיות מפונקים שהם מרגישים שהם יכולים לדרוש עוד ועוד דברים" הוסיף ביחס לגישה של החברה לאינטליגנציה מלאכותית והתחומים הנושקים לה.

עזיבתה של גברו מדגישה את האתגר אתו צריכה להתמודד ההנהגה בגוגל. שני הצדדים אפילו מסכימים על השאלה האם התפטרה, כפי שטוענים בגוגל, או פוטרה כשהייתה בחופשה, כפי שהיא טוענת.

צרו איתנו קשר *5988