גלובס - עיתון העסקים של ישראלאתר נגיש

שנות ה-20 יהיו העשור של הבינה המלאכותית

אף מדען רציני לא חושב שרובוטים מתוסכלים יצאו למסע הרג בעתיד הנראה לעין, אבל הקהילה המחקרית משוכנעת שהעשור הקרוב עשוי להיות העשור של הבינה המלאכותית ● אז מה צפוי לנו?

בינה  מלאכותית/ צילום: Shutterstock | א.ס.א.פ קריאייטיב
בינה מלאכותית/ צילום: Shutterstock | א.ס.א.פ קריאייטיב

כשג'יימס קמרון ביים ב-1984 את הסרט הראשון בסדרת "שליחות קטלנית", העתיד האפוקליפטי שתואר בו נראה רחוק מדי בשביל להתעמק במידת האפשריות שלו ובדרך שתוביל אליו. לפי התסריט, כבר ב-1997 - 13 שנים בלבד לאחר כתיבת התסריט - מגיעה רשת המחשבים סקיינט למודעות עצמית, מחליטה שהסכנה החמורה ביותר לעצם קיומה נובעת מבני האדם, ויוזמת מלחמת עולם גרעינית כדי לחסל אותם. מכיוון שלא כל בני האדם מתו וחלק מאלו ששרדו את התופת נלחמים נגדה ונגד המכונות שלה, רשת המחשבים מחליטה לשלוח לעבר רובוט דמוי אדם שירצח את אמו של מנהיג המרד ויסתום את הגולל על סיכוייו של המין האנושי להמשיך ולשרוד. ההתפתחות הזו בעלילה מתרחשת ב-2029 - כלומר בסוף העשור שאליו אנו נכנסים כעת.

כש"שליחות קטלנית" נוצר לפני 35 שנים, העולם הדיגיטלי אפילו לא החל להתעצב. לא רק שמעטים הבינו ב-1984 שמשהו גדול עומד בפתח, אלא שמעטים אף יותר העלו בדעתם עד כמה מהיר יהיה השינוי, ועד כמה הוא יהיה מקיף ומטלטל. באופן לא מפתיע, הבודדים שנתנו אז את דעתם על דמותו האפשרית של העתיד הדיגיטלי שלנו, כרכו סביבו לא רק תקוות גדולות אלא גם פחדים גדולים.

בשנים שחלפו מאז, העולם השתנה לבלי הכר. לא רק שכל היבט בחיינו הפך להיות ממוחשב, אלא שגם הבינה המלאכותית מקיפה אותנו מכל עבר. מחשבים יודעים כיום להלחין להיטים, ללמוד את ההרגלים שלנו ולנחש מה נרצה לרכוש. לנהל את מערכות הרמזורים שלנו, להסיע מכוניות ולהטיס מטוסים. למצוא קשרים והקשרים ולחלץ תובנות מבסיסי נתונים עצומים. לספק שירותים ללקוחות ומה לא, אבל האדם בשלו: כשמדברים על בינה מלאכותית, הוא עדיין מוטרד מרובוטים שייתרו אותו - מנטלית או פיזית.

סרט הטראש Automation שיצא לאחרונה לשוק לקח את הרעיון שלב אחד הלאה. גיבור הסרט הוא "אוטו" - רובוט דמוי אדם (טוב, הוא יותר דומה לרובוקופ) שחי חיים מלאי תכלית במפעל רכב. הוא יודע לבצע עבודות מגוונות - מהרמת משאות כבדים ועד ניקוי רצפת אולם הייצור - והוא נחשב לעובד מושלם: מנומס, חרוץ ואהוד על עמיתיו האנושיים. אלא שדינו של הדו-קיום האוטופי הזה לקרוס בסופו של דבר, ויום אחד אוטו מגלה לחרדתו שהוא עומד להיות מוחלף על-ידי רובוטים מודרניים יותר. באופן אירוני, התסכול העמוק שהוא חווה גורם לו להגיב בצורה אנושית מאי פעם ולהתנהג כמו חיה. איך בדיוק זה בא לידי ביטוי? הוא מוותר על הניסיון לרדת לשורש הבעיה ואולי לרדוף אחר המהנדסים ששינו את מציאות חייו (בכל זאת, לא מדובר פה בסוגה עילית כמו בלייד ראנר), ובוחר בפתרון האמריקאי המטורלל והמקובל במצבים שכאלה: יציאה למסע טבח במקום העבודה. ללמדכם, שגם כשחוקי הז'אנר קצת נמתחים, בני האדם תמיד אוכלים אותה.

בעוד שאף מדען רציני לא חושב שרובוטים מתוסכלים עשויים לצאת למסע הרג בעתיד הנראה לעין, קיים בקהילה המחקרית קונצנזוס חזק שאחרי שנים של הבשלה איטית, נראה שהעשור הקרוב יהיה העשור של הבינה המלאכותית. הזינוק הגדול קדימה מתרחש בגלל שילוב של גורמים: הניסיון שהצטבר והוביל לפיתוח שיטות חדשות; יכולת מחשוב שרק התעצמה עם המעבר לענן ומבול של רעיונות למערכות שהבינה המלאכותית יכולה להשתלב בהן ולמקסם את התועלות שבהן, גרמו להזרמת כסף גדול לתחום ולהאצת תהליכי הפיתוח.

לקראת הכניסה לעשור השלישי של המאה ה-21, שוחחנו עם שלושה חוקרי בינה מלאכותית שהעזו להתנבא לגבי המגמות העיקריות שנראה בתחום בעשר השנים הקרובות והתריעו שאנו עומדים בפתחה של מהפכה משנה סדרי עולם. לצד פריצות דרך שישפרו את חייהם של בני האדם כמעט בכל תחומי החיים, המדענים מתריעים כבר כעת כי עליית הבינה המלאכותית תביא לאובדן מסיבי של מקומות עבודה אנושיים, להסתמכות יתר על קבלת החלטות ממוכנת ולהיווצרותו של פער דיגיטלי חדש. הניסיון שנצבר ממהפכות טכנולוגיות משמעותיות קודמות, הם טוענים, מחייב להיערך למציאות החדשה בצורה רצינית בהרבה מכפי שרובנו סבורים כיום.

מה זה כלב ומה זה לא כלב

פרופ' יצחק בן ישראל שעומד בראש מרכז הסייבר באוניברסיטת תל אביב והוביל את כנס הבינה המלאכותית שנערך בה לפני שבועיים, שמח לתת היסטוריה מקוצרת של התחום. "תראה, המונח בינה מלאכותית די עמום, אז כשאני מדבר על זה, אני בדרך כלל מתכוון לרעיון שבמקום לכתוב אלגוריתם שמורה למחשב איך לעשות משהו, אני אתן לו ללמוד כמו שאני ואתה לומדים. שנינו יודעים לזהות פרצופים, אבל אף אחד מאיתנו לא בדיוק יודע להסביר איך הוא עושה את זה. אין לנו כללים כמו מדידת המרחק בין העיניים אלא אני פשוט יודע שאם אני רואה פרצוף, אז או שזה הפרצוף שלך או שזה לא, ואחרי כמה פעמים שאנחנו פוגשים זה את זה, אנחנו יודעים להגיד 'היי, אני מכיר אותך!'. מישהו עלה על הרעיון הזה והחליט להקים רשת נוירונים שתחקה את מה שקורה לנו במוח. במקום שתגיד למחשב מה לעשות, תיתן לו ללמוד מהניסיון.

"כבני אדם, אנחנו לומדים מהתבוננות. כשהיית קטן, אמא שלך הייתה מצביעה על כלב נניח ואמרה לך 'זה כלב', ואז הראתה לך כלב אחר וגם אמרה עליו 'זה כלב', ואז הצביעה על חיה אחרת שלכאורה יש לה גם ארבע רגליים וזנב ופרווה, אבל אמרה לך שזה חתול, ועל משהו אחר שזה לא כלב ולא חתול אלא שזה סבא, ואתה למדת מה זה כלב ומה זה לא כלב. בשביל שמכונה תצליח לעשות דברים כאלו, צריכים לתת לה לעבור על מאגרי מידע גדולים שבהם מוגדר לה מהו כלב ומה הוא לא, וכך ללמוד. המטרה בסופו של דבר היא שהמכונות יידעו לעשות את מה שאני ואתה יודעים לעשות.

פרופסור יצחק בן ישראל/ צילום: איל יצהר

"הרעיונות האלו התחילו לצוץ עוד בשנות ה-50, אבל לא ניתן היה לבצע אותם עד לפני חמש שנים כי כוח המחשוב לא הספיק. מחשבי העל מתחילים להתקרב היום ליכולת החישוב של המוח האנושי מבחינת מספר הנויורונים שהם יורים בשנייה, אבל למחשב בכל זאת יש יתרון. למה? כי המחשב לוקח את כל יכולת העיבוד שלו ומכוון אותה לאותו חישוב, בעוד שהמוח שלנו לא יכול לעשות את זה. בזמן שהוא מחשב, הוא גם צריך לפקח על פעולת הלב, לדאוג שאף אחד לא יתקיף אותי, להאזין לאוזניים ולהעביר את המידע מהעיניים וכיו"ב".

בן ישראל סבור שבעשור הקרוב נראה את הבינה המלאכותית נכנסת לכל תחום בחיינו. "הנה דוגמה מפתיעה. יש תוכנות שיודעות לסרוק טקסטים - מוקלדים, לא בכתב יד - ולדעת על-פי כל מיני פרמטרים אם מי שכתב אותם היה גבר או אישה. איך היא עושה את זה? מתברר שנשים וגברים משתמשים בתדירות אחרת במילים מסוימות. אחרי שהמכונה לומדת את הדפוסים האלו, היא יכולה לדעת במשהו כמו 95% מי כתב את הקטע. יש אצלנו פרופ' דתי באוניברסיטה שלקח את התוכנה הזאת ובדק באמצעותה את ספר ישעיהו שיש לגביו מסורת ביהדות שהוא בעצם נכתב על-ידי שני אנשים. התשובה שהוא קיבל הייתה שישעיהו באמת נכתב על-ידי שני אנשים שונים ועכשיו הוא לא יודע מה לעשות כי הוא גם הזין לתוכה את ספר ירמיהו והמחשב אומר שהוא נכתב על-ידי ארבעה אנשים שונים.

"למה אני מספר לך את כל הסיפור הזה? כי אם הייתי אומר לך שהתפתחות הבינה המלאכותית תביא לפיתוח אפליקציות לחקר המקרא, היית מסתכל עליי בעין עקומה. אבל מכיוון שאנו בונים מכונות עם יכולות חישוב שלקראת סוף העשור כבר יהיו די קרובות ליכולות של בני אדם, אז בדיוק כמו שבני אדם עוסקים במתמטיקה, בפיזיקה וגם בחקר המקרא, אז גם המחשבים יעשו את הדברים הללו. זה פשוט יקרה בכל מקום ובכל תחום. כמו שאתה או אני או ניוטון או איינשטיין הם מכונות שלא בנויות מטרנזיסטורים וסיליקון אלא מחומר ביולוגי שמתנהג על-פי חוקי הפיזיקה ולא באופן אקראי יודעים לשאול שאלות, גם המכונות שאנחנו קוראים להם מחשבים יידעו לעשות את זה. אם אתה מכונה ששואלת שאלות, אין סיבה שלא יהיו מכונות אחרות שעושות את זה".

בן ישראל אומר שאין ספק שעליית הבינה המלאכותית תשנה בצורה ניכרת את שוק העבודה, אבל רואה בכך הזדמנות ולא רק מקור לחששות. "כשהייתי ילד, כל חנות שלישית הייתה סנדלרייה. השבוע הלכתי באבן גבירול ופתאום ראיתי סנדלרייה ועמדתי מולה כולי משתאה כי כבר שלושים שנה לא ראיתי סנדלרייה. כבר לא צריך את זה בגלל שהנעליים לא מתבלות כמו פעם. מה שקרה עם השכלול של אמצעי הייצור זה שמצד אחד מקצועות כמו סנדלרים נהיו לא נחוצים, ומצד שני מקצועות אחרים נוצרו. אז עם עליית הבינה המלאכותית, השאלה היא לא אם יתבטלו מקצועות מסוימים - בטוח שיתבטלו - אלא מה יהיה המאזן שייווצר. ב-200 השנים האחרונות מקצועות נעלמו ואחרים הופיעו, ובסופו של דבר החיים של כולם השתפרו. אני חושב שזה יקרה גם בהקשר של הבינה המלאכותית".

שינוי טקטוני בעולם העבודה

"כיום, כשמדברים על בינה מלאכותית, עושים את זה מתוך קונטקסט צר", אומר איתי יוגב, דירקטור בינה מלאכותית באינטל. "אתה מצמצם מראש את מרחב הלמידה של המכונה כדי להקל עליה ומחפה על דברים שהיא לא יודעת לעשות בהרבה ידע מפורש. אנחנו מכנים את זה Narrow A.I או בינה מלאכותית צרה - ואנחנו מתקדמים יפה. למשל, אנחנו בדרך ליצור מכונה שיודעת לעשות פעולה כמו נהיגה באופן לא רע. החלום, לעומת זאת, הוא להגיע ל-General Purpose A.I, בינה מלאכותית כללית - כלומר מכונה שאתה מלמד אותה לעשות דבר אחד, אבל היא תדע לעשות את מה שאנחנו יודעים לעשות - להעתיק ידע מתחום לתחום. כיום חוקרים את התחום הזה ויש לו פוטנציאל לחולל פריצת דרך אמיתית".

איתי יוגב/ צילום: פרטי

יוגב מסרב לתת לוחות זמנים לתהליך הזה, אבל אומר שכבר בעשור הקרוב הוא צופה שנרגיש את הבינה המלאכותית נכנסת חזק לעולם העבודה. "כשאני אומר עבודה, אני מתכוון גם לנהגי משאיות או לנהגי מוניות, אבל גם לעורכי דין, מהנדסים ועיתונאים", הוא מסביר. "בשנים האחרונות ראינו את הבינה המלאכותית נכנסת חזק לתחום הצרכנות. כמעט כל הצריכה שלנו בעולם האלקטרוני מבוססת על בינה מלאכותית: מהאתר שאתה רואה כשאתה גולש, דרך חדרי המלון שמציעים לך כשאתה מחפש חופשה. כיום, כשאתה יוצא למרחב הפיזי, זה פחות קורה, אבל מה שנראה בשנים הקרובות זה שהטכנולוגיה הזאת תצא מהמרחב הווירטואלי ותעבור לשוק העבודה. אין ספק בכלל שעולם העבודה ייראה אחרת לגמרי בעוד עשר שנים. יהיו דברים שייעלמו ממנו ויהיו דברים חדשים שיופיעו כמו שילוב של אדם ושל מכונה שעובדים ביחד".

יוגב אומר שקשה להעריך מתי בדיוק תיווצר מסה קריטית של מכוניות אוטונומיות שנשלטות על-ידי בינה מלאכותית, אולם מזהיר כי "צריך להיות ברור לגמרי לכולם שמצב כזה יהיה בבחינת שינוי טקטוני. מה יעשו כל האנשים שמתפרנסים היום מנהיגה? אף אחד לא יודע בדיוק. אותו הדבר נכון גם בתחום שלך. כבר היום מייצרים הרבה תוכן בלי להשתמש באנשים. כשאני מסתכל שנה-שנתיים קדימה, אני שואל את עצמי מה יהיה התפקיד של עיתונאי, ובעיניי התפקיד שלו יהיה פחות לייצר תוכן ולאסוף תוכן כי הדברים הללו יבוצעו בצורה אוטומטית לגמרי, אלא לתת נקודת מבט. אותו הדבר נכון גם לגבי הכנה של חוזים או ניהול תיקים.

"רוב העבודה הטריוויאלית תיעשה על-ידי אלגוריתמים והתפקיד של אנשים ייהפך להיות בקרה על הפעולה של המכונות והתעסקות בדברים שאנחנו עדיין לא רואים אצל מכונות כמו יצירתיות, אמפתיה וקבלת החלטות שאנחנו מעדיפים שבני אדם יקבלו ולא מכונות. באינטל למשל אנחנו חושבים שעבודה של אנשים ומכונות ביחד עדיפה מעבודה של מכונה לבד, ואם אתה שואל אותי באילו תחומים הכי הייתי רוצה לראות את החזון הזה מתממש, אז התשובה היא שברפואה ובחינוך. יש למשל מחקר משנות ה-80 שמראה שילדים שאתה נותן להם מורה פרטי לאורך זמן מגיעים למצב שהם נמצאים בשני האחוזים העליונים של ההישגים בכיתות שלהם. תחשוב שהיינו יכולים לתת לכל ילד מורה פרטי דיגיטלי כשבמקביל אתה שומר על המסגרת החברתית ועל הערכים".

אז מה האתגרים שמונעים מאיתנו לממש את חזון הבינה המלאכותית שאנו מכירים מהספרים ומהסרטים - כלומר שמכונות ומחשבים יוכלו לעשות כל מה שבני אדם יכולים לעשות? ברמת החומרה, מצטברים בשנים האחרונות עוד ועוד דיווחים על התקדמויות מרשימות של חוקרי המחשוב הקוונטי שמנסים לפרוץ את מה שיוגב מכנה "גבולות ה-0 וה-1" ולהגביר את כוח המחשוב בצורה מהותית. עם זאת, גם קיומו של כוח מחשוב עילאי הוא רק חלק מהפתרון.

"האתגר הראשון הוא מה שאני מכנה היגיון פשוט", אומר יוגב. "יש למשל דברים שבני אדם מבינים תוך שנייה. שנסיבות השתנו, שלדברים פתאום יש קונטקסט אחר. מכונות ממש לא מבינות את זה והן דורשות המון אימון על מנת שהן יוכלו לקבל החלטות. אם למשל יש לך רצפה קשה ואז אתה שופך עליה שמן, כל ילד יבין מיד שהוא צריך לשנות את הדרך שבה הוא הולך עליה כדי שלא להחליק, אבל אם אתה רובוט, תצטרך להתאמן ספציפית לתרחיש הזה. אם למשל תשפוך מים חמים לתוך צנצנת, כל ילד בן שלוש יבין מהקונטקסט ומהמראה של האדים שלא כדאי לו לגעת במים. למכונה שלא אומנה לנסיבות המסוימות הללו ייקח הרבה זמן ללמוד איך להתנהג במקרה כזה של קונטקסט שלא נצפה מראש".

יוגב אומר שעל אף ההבנה ההולכת והמעמיקה בתחום, ועל אף שכוח החישוב גבוה לאין שיעור מאשר בעבר, יש כמה סיבות לכך שתחום הבינה המלאכותית עדיין לא ביצע את קפיצת המדרגה הגדולה שלו. "יש כמה בעיות בכמה מישורים, אבל אחת מהן נוגעת למודל הלמידה של המכונות שכיום מבוססת על היסטוריה, ולכן היכולת של המכונה להסיק מסקנות נחותה ממש בסדרי גודל לעומת היכולת של בני אדם. הדבר השני זה שבעוד שמכונות לומדות רק ממידע שנועד ללמד אותן לעשות משהו מסוים, בני אדם כל הזמן לומדים מכל החושים שלהם. הדבר השלישי הוא שבעוד שיכולת העיבוד של מחשבים כיום היא לכאורה בלתי מוגבלת, בגלל שני הסעיפים האחרים אי אפשר להשתמש בה עד הסוף.

"בתחום הראייה הממוחשבת למשל, הייתה לפני כמה שנים פריצת דרך וכיום מכונות יודעות לעשות עבודה מעולה כשהן מתבקשות לזהות אובייקטים או להבדיל ביניהם, אבל בעולם השפה, אנחנו עדיין לא שם. כשאתה מגיע לרבדים העליונים של השימוש בשפה - אירוניה, ציניות, משחקי מילים או אנלוגיות - המחשב בבעיה.

"אנשים למשל מבינים מטאפורות בקלות, אבל המחשבים ממש לא שם עדיין. האם זה ישתנה בעשור הקרוב? תראה, הרבה מאוד כסף, גם של ממשלות וגם של חברות מסחריות, מושקע בתחום ויש גישה חדשה בעיבוד של שפה שמתיימרת להביא לתוצאות הרבה יותר טובות, אז אולי כן, אבל יש עוד אזור שעד כה התקשה לפרוץ ואני מאוד מאמין בו. קוראים לזה Reinforced Learning או למידה מתוך אישוש, והתחום הזה בעיניי מהותי לעתיד. אם למשל ילד ייגע פעם אחת במים רותחים, הוא ילמד להיזהר מהם, נכון? אז המנגנון הזה מחקה את המנגנון האנושי - לפעמים מתנסים כדי ללמוד ולפעמים מנצלים את הידע שנצבר עד כה. כדי ללמד רובוט ללכת, מלמדים אותו דרך צפייה בסרטונים שמאפשרים לו להשתפר, ואותו הדבר נכון גם כשנותנים למחשב לשחק שח, אבל כרגע מתקשים להוציא את התחום הזה מעולם המשחקים לעולם האמיתי. למה? כי במשחק יש מספר סופי של אפשרויות בעוד שבחיים האמיתיים מספר התרחישים האפשריים הוא אינסופי או לפחות גדול בהרבה. המתמטיקה שעובדת טוב במשחק הופכת לבלתי אפשרית בעולם האמיתי. אבל אני מאמין שהתחום הזה של למידה מתוך אישוש הוא כזה שפריצת דרך בו יכולה ממש לשנות את המשחק".

וכשתתרחש פריצת דרך כזאת, אנחנו צריכים להיזהר?

"לדעתי, החזון שבו המכונות משתלטות על בני האדם לא רלוונטי לזמן הקרוב. יותר ממה שאני מודאג מעליית המכונות, אני מודאג מירידת האדם. אני מפחד שתהיה השתעבדות יתר למכונה. ככל שנסתמך עליה יותר, אתה תוציא את האדם מהמשוואה וכך תיתן לה כוח גדול מדי. נצטרך להתייחס יותר בביקורתיות לשאלה מה ניתן למכונות להחליט. אני פחות מוטרד מאופטימיזציה של בינה מלאכותית בעולם הצרכני כדי להביא אנשים לרכוש מוצרים או מכך שבשוק העבודה נשלב בינה מלאכותית כדי להשתכלל, אבל אני בהחלט מוטרד משילוב של בינה מלאכותית בתחום האזרחי והביטחוני.

"כל אזרח צריך לשאול את עצמו אלו החלטות הוא היה רוצה שמכונה תקבל ולאלו החלטות צריך בן אדם. צריך להיות דיון ציבורי עמוק לגבי סוג הרגולציה שיש להעביר ועדיף שזה יקרה שעה אחת קודם. תחשוב למשל על מצב שבו מישהו מציע להכניס את כל הנתונים הקיימים למחשב ושהאלגוריתם יחליט כיצד ייראה סל התרופות. יהיו הרי אנשים שיגידו לך שהמחשב לא מוטה לשום צד ולא חשוף ללחצים, אבל מישהו הרי יזין לתוכו את הנתונים ומישהו יגדיר את הפונקציות ואת המטרה. אלו שאלות מוסריות. היית רוצה שמחשב יקבל החלטות כאלו?".

שינויים בהרגלי הנסיעה

פרופ' עירד בן-גל שעומד בראש המעבדה ליישומי בינה מלאכותית ואנליטיקה עסקית באוניברסיטת תל אביב וגם יזם את התוכנית "חיים דיגיטליים 2030" בשיתוף עם אוניברסיטת סטנפורד, אומר שאחת ההתפתחויות המרכזיות שנראה בשנים הקרובות בתחום הבינה המלאכותית תהיה עליית מה שמכונה "המודל הגרעיני" שמתמקד בלמידה ובניתוח של ישות בודדת.

"תחשוב למשל על אפליקציה שלומדת ועוקבת אחר האופן שבו אתה נוהג - עקיפות, סיבובי הגה, מהירות, מספר עצירות וחוזק עצירות - ואז יכולה להציע תוכנית ביטוחית שמתאימה לך ברמה של פרופיל הסיכון בנסיעה הבודדת, הגרעינית", מתאר בן-גל. "הפרמיה בעצם תגיב לשינויים בהרגלי הנהיגה שלך מנסיעה אחת לשנייה. פעם ביטוח אישי חושב לפי סוג המכונית, הגיל שלך וכמה שנות ניסיון יש לך. היום אפשר לחשב תוכניות כאלו גם לפי מידע שקיים על סוגי הכבישים שאתה עובר בהם. אם למשל אתה נוסע דרך כביש מסוכן ועובר דרך צומת שהיו בו הרבה תאונות דרכים, הנתונים הללו ישתקללו למודל הסיכון הביטוחי האישי. המודל יאפשר גם לזהות שהסיכון עולה בנסיעה מסוימת שבה אופן הנהיגה השתנה - אולי כתוצאה מכך שהנהג שתה אלכוהול. אפליקציות אחרות שנשענות על מודל גרעיני כזה כבר צצות בתחום הגנת הסייבר ונשענות על מדדים ביומטריים אישיים שהמערכת לומדת לזהות ככאלו ששייכים לך בלבד. תחשוב למשל שמערכת כזאת יכולה לזהות שאתה מזיז את העכבר או מקליד בצורה אחרת מכפי שאתה בדרך כלל עושה את זה, וככה מספקת אינדיקציה לכך שאולי השתלטו לך על המחשב".

פרופסור עירד בן גל/ צילום: איל יצהר

תחום אחר שבן-גל מדבר עליו ככזה שצפוי להיות משמעותי בעשור הקרוב מכונה XAI (קיצור של Explainable AI, או בינה מלאכותית שניתנת להסבר). "זו מגמה מאוד חזקה היום, שכל החברות הגדולות מתעניינות בה. אם פעם היית לוקח מודל של עץ החלטה והיית ממש רואה בעיניים איך כל פרמטר משוקלל ומשפיע על התוצאה הסופית, אז במודלים של הרשתות העמוקות שקיימות היום מאוד קשה להבין מה משפיע על התוצאה, ולכן יש מאמץ מאוד גדול לבנות מודלים שמתלבשים על המודלים הקיימים, והם מנסים לחקות אותם בצורה שתאפשר לקבל מהם תובנות ניתנות להסבר. תחשוב למשל על אפליקציה רפואית שמנתחת תמונות MRI ויודעת להצביע על חולה מסוים שברמת מובהקות של 83% יש לו סוג מסוים של סרטן ריאה, אבל עכשיו המודלים החדשים יידעו גם להסביר מדוע אפליקציית ה-AI הגיעה למסקנה הזאת. בעיבוד תמונה יש מודלים של XAI שממש צובעים את הפיקסלים בתמונה שגרמו לאפליקציה לתת את ההמלצה שקיבלת - ואז לדוגמה יוכלו להציג לך את האזור בצילום הריאה שהוא זה שעל סמך המראה שלו קיבלה המערכת את ההמלצה הספציפית שלה.

"תובנה שכזו לא רק מעלה את האמון בין המשתמש האנושי לאפליקציית הבינה המלאכותית אלא מאפשרת משוב חוזר מהמומחה האנושי למערכת. לדוגמה, ב-2016 נתנו למודלים מורכבים כאלה לסווג תמונות של כלבים ושל זאבים, וכלב האסקי סיבירי סווג על-ידי המערכת בטעות כזאב. החוקרים לא ידעו מדוע המערכת טעתה בסיווג ורק כשהם הפעילו את המודלים של ה-XAI וביקשו מהמערכת שנותנת את התובנות להצביע איזה פיקסלים בתמונה היו אלו שבגללם היא סיווגה את הכלב כזאב, התברר שהרבה מהם היו בכלל שייכים לרקע המושלג של התמונה. למה זה קרה? כי בבסיס הנתונים שלפיה המערכת למדה לסווג תמונות, הזאבים הופיעו כמעט תמיד עם רקע מושלג והמערכת החליטה על סמך הרקע המושלג הנפוץ שזה פיצ'ר שכנראה אופייני לחיה 'זאב'. לכן, ברגע שאין לך אפשרות להסביר את המודל, אתה לא יודע מדוע המערכת טעתה, ואז אתה לא יכול לתקן את הטעויות שלה".

בן-גל אומר שהמודלים של XAI ייכנסו לאפליקציות רפואיות ועסקיות רבות ויאפשרו אינטראקציה הרבה יותר טובה בין מומחים אנושיים למערכות הבינה המלאכותית. "אנשים יבינו מדוע המערכת קיבלה את ההחלטה שלה ויוכלו לתת לה פידבק. במקרה של הזאב, המומחה יאמר למערכת שרקע מושלג הוא לא תכונה שמתארת זאב. יש מערכות אחרות לדוגמה שמחליטות אם אדם זכאי או לא זכאי לקבל הלוואה או משכנתא. מערכות כאלו מנתחות במהירות את האינפורמציה על המועמד ומשוות אותו לסיטואציות של הלוואות בעבר ומקבלות החלטה, אבל אם לבנקאי הייתה מערכת שמסבירה לו מדוע ההחלטה התקבלה, יכול מאוד להיות שהוא יבין שההמלצה הייתה מוטה ומפלה לרעה בגלל סיבה שלא גלויה לעין.

"באמזון למשל ראינו כבר מערכות שהפלו לרעה גיוס נשים ובשדות תעופה ראינו מערכות שהפלו לרעה אנשים כהי עור. בעקבות מקרים כאלו עברו תקנות GDPR שנקבע בהן שהיכולת להסביר את הסיבה והאופן שבו ההחלטה התקבלה חייבת להיות חלק מהמערכת ה-AI. אם למשל תרצה לדעת מדוע לא קיבלת משכנתא או מדוע בדקו את המזוודה שלך פעמיים בשדה, לא יוכלו להגיד לך ‘כי הקופסה השחורה החליטה כך' אלא יצטרכו להסביר לך למה".

טרנד חם נוסף שבן-גל מעריך שיהפוך להיות משמעותי יותר הוא זה שעליו מבוססת כלכלת השיתוף. "תחשוב על מערכת כמו אובר שמאפשרת לך לנצל בצורה יעילה מוצר כמו מכונית שרוב הזמן היא מושבתת. אני חושב שנראה הרבה יותר מערכות כאלו שנשענות בסופו של דבר על ענן וביג דאטה. ידעת למשל שבסביבות 50% מהאוכל המוכן בארה"ב נזרק לפח? ככל שהמערכות לומדות טוב יותר מה הצריכה שלך ושל סביבתך, הן יוכלו לחלק את המזון העודף בבניין או בשכונה שלך ועל-ידי כך לצמצם את הבזבוז. אז אולי לא נעביר אוכל מהמקרר שלך למקרר של השכן, אבל יהיה מעין מחסן שכונתי שתוכל לתת או לקחת ממנו מזון כי אתה צורך כרגע יותר והשכן צורך פחות".

בן-גל אומר כי מערכות שמשקללות פרמטרים אתיים ומוסריים יהפכו להיות נפוצות על מנת לתמוך במערכות הבינה המלאכותית שיעבדו סביבנו ללא הפסק. "חוקרים ב-MIT הציגו סרטונים של נהיגה אוטונומית למיליוני בני אדם בכל העולם והציגו להם סיטואציות של קבלת החלטות בנהיגה כדי להבין אם קיים קנה מידה של אתיקה אנושית משותפת. הם הגיעו למסקנה שבני אדם בעולם המערבי פועלים בסיטואציה מסוימת על-פי אמת מידה אחת, שבמדינות אסיה אנשים פועלים אחרת באותו מצב, ושגם לבני אדם באמריקה הלטינית ובמדינות כמו ספרד ופורטוגל יש מערכת קבלת החלטות אופיינית להם".

המשמעות היא שבעתיד, מכוניות אוטונומיות יותאמו גם מבחינה אתית ומוסרית למדינות שבהן הן יסיעו אנשים, כלומר יהיה צורך לכתוב עבורן קוד ספציפי שיביא את ההעדפות הללו בחשבון כדי שיוכלו לחקות בצורה הטובה ביותר את מערכת קבלת ההחלטות של הנהגים האנושיים הפועלים בהן. כך למשל, החוקרים מצאו כי למרות ההבדלים השונים בגישות האתיות והמוסריות בחלקי העולם השונים, היו כמה עקרונות שחיברו בין המשתתפים בניסוי.

בדילמה שבין הצלת חיי אדם להצלת בעל חיים היה קונצנזוס לטובת האדם; בדילמה שבין פגיעה בלתי נמנעת במספר קטן של אנשים לפגיעה במספר רב שלהם, הנשאלים הסכימו שהמכונית אכן צריכה לפגוע בקבוצה הקטנה יותר על מנת להציל את הקבוצה הגדולה. מסקנה אחרת שעלתה מהניסוי הייתה שבעוד שבשתיים מהקבוצות אנשים אמרו כי עדיף שהמכונית תפגע בבני אדם מבוגרים יותר ותעדיף להציל ילד על פני מבוגר או תינוק על פני ילד, באסיה הנסיינים ראו את הדברים אחרת ושקלו את ערך חיי האדם בצורה שוויונית יותר מבחינת הגיל.

על אף שבן-גל רואה במכונית האוטונומית אפליקציה שמכילה בתוכה את כל הטרנדים החמים של העשור הקרוב (גרעיניות, כלכלת שיתוף, שימוש ברשתות עמוקות, XAI, וכמובן שגם פוטנציאל כלכלי גבוה), הוא סבור שייקח זמן עד שמכוניות כאלו יופיעו בהמוניהן על הכבישים. "אני חושב שנראה הרבה יותר כלי רכב חצי אוטונומיים - נניח אוטובוסים - שליד ההגה יהיה נהג שיוכל לקחת את ההגה לידיים ברגע של סכנה. נראה שימוש בכלי רכב אוטונומיים בקווים קבועים, כמו למשל משאיות שנוסעות בלילה בנתיבים מאוד ארוכים ובאזורים שיש בהן נראות גבוהה ועומס נמוך. מערכות כאלו נראה כבר תוך חמש שנים, אבל אם אתה שואל אותי אם נראה עד אז ערים שמוצפות במכוניות אוטונומיות ושהנהגים בעצם ייעלמו בהן מהכבישים, אז זה ייקח לדעתי יותר זמן. תוך עשר שנים נוכל לראות בערים מאוד מתקדמות שכונות ואזורים שיש בהן יותר מכוניות אוטונומיות, אבל לא באופן בלעדי".

בן-גל מוסיף שהוא לא חושש מאפשרות של אפוקליפסה שבה המכונות נלחמות בבני האדם, אבל מוטרד מאוד מהאפשרות שהפערים בין בני האדם שיודעים לעבוד עם מערכות בינה מלאכותית ולנצל אותן לבין אלו שלא יודעים לעבוד איתן יילכו ויתרחבו. "זו בעיניי הסכנה האמיתית והמוחשית במהפכת הבינה מלאכותית. בכל פעם שהאנושות התקדמה, נוצרו או התרחבו פערים בין בני אדם או מדינות שידעו לאמץ את השינויים לבין אלו שלא ידעו ונשארו מאחור. אם לא תהיה בתחום הזה רגולציה ברורה שתסדיר את השימוש החברתי בידע כפי שיש בכל תחום תשתיתי אחר, הפערים שייווצרו יהיו גדולים מאוד ואוכלוסיות שלמות תסבולנה מהמהפכה הזאת אם דרך אובדן תעסוקה ואם דרך ירידה בהכנסות".

עוד כתבות

פסולת פלסטיק בחופים  / צילום : Shutterstock א.ס.א.פ קריאייטיב

צורכים יותר, ממחזרים פחות: צריכת החומרים העולמית מזנקת לשיא של 100 מיליארד טון בשנה

החומרים המשמשים את הכלכלה העולמית גדלו פי ארבעה מאז 1970, הרבה יותר מהר מקצב הגידול באוכלוסייה ● בשנתיים האחרונות הצריכה קפצה אך דווקא השימוש החוזר במשאבים צנח ● הפורום הכלכלי העולמי: כלכלה מעגלית יכולה לייצר הזדמנויות עסקיות בסכום של 4.5 טריליון דולר

הבנק להסדרי סליקה בינלאומיים (BIS) בבאזל / צילום: רויטרס

בנקים מרכזיים צפויים להנפיק מטבעות דיגיטליים בשנים הקרובות

כ-10% מבין 66 בנקים מרכזיים שהשתתפו בסקר של הבנק להסדרי סליקה בינלאומיים (BIS), אומרים כי הם צפויים להנפיק מטבע דיגיטלי משלהם בתוך שלוש שנים בלבד ● בשבדיה ובאורוגוואי כבר בוצעו פיילוטים בתחום

קובי בריאנט  / צילום: Rory Carroll, רויטרס

דיווח: קובי בראיינט נהרג בתאונת מסוק בגיל 41

הלם בעולם הספורט: כוכב העבר של הלייקרס נהרג בהתרסקות מסוק באיזור לוס אנג'לס ● על פי דיווחים בארצות הברית, ארבעת הנוסעים הנוספים נהרגו גם כן

הנסיך הסעודי מוחמד בן סילמאן וג'ף בזוס / צילום: shutterstock, שאטרסטוק

דעה - על טיפשות ואבסורד: תוכנת הריגול הישראלית, הנסיך הסעודי, הנשיא האמריקאי והמיליארדר־המו"ל

האם ג'ף בזוס מתחרט על רכישת ה'וושינגטון פוסט'? טינתו העמוקה של טראמפ כבר עלתה לו 10 מיליארד ד' באובדן חוזה ענקי עם הפנטגון ● האם היה קשר בין הטינה הזו לפריצה לסלולר של בזוס ולטענה שיורש העצר הסעודי שלח במו ידיו תוכנה זדונית לווטסאפ של בזוס? ● דעה

אנשי ביטחון בודקים טמפרטורות גוף של הנכנסים לרכבת התחתית על רקע התפשטות נגיף הקורונה, בייגי'ן / צילום: רויטרס

שניים אושפזו באיכילוב ובברזילי מחשש שנדבקו בנגיף הקורונה

לבית החולים איכילוב הגיעה אישה בת 60, שחזרה לפני ארבעה ימים מסין ● צוותי מד"א פינו הערב פועל סיני לבית החולים ברזילי באשקלון

הרכבת התחתית בבייג'ין / צילום: רויטרס

חשש מהאטה כלכלית משמעותית בסין בעקבות נגיף הקורונה: "הרע מכול עדיין לא הגיע"

כלכלת סין שגם ככה חווה האטה בצמיחתה הכלכלית נאלצת כעת להתמודד עם נגיף הקורונה ● מהן ההשלכות המיידיות על הכלכלה השנייה בגודלה בעולם וכיצד הנגיף החדש דומה לקודמו - הסארס - שתקף את מזרח אסיה בתחילת שנות האלפיים

עובדים כמסנני תוכן של יוטיוב / צילום: shutterstock, שאטרסטוק

מסנני התוכן ביוטיוב חויבו לחתום על טופס לפיו הם עלולים לפתח פוסט טראומה

לפי "The Verge", חברת הקבלן Accenture הפיצה את המסמך לעובדיה בחודש שעבר ● העובדים נדרשו להתחייב כי יעקבו אחרי מצבם הנפשי ואף יעדכו את המנהלים שלהם במידת הצורך

דונלד טראמפ / צילום: רויטרס, Kevin Lamarque

הקלטת הסתר של טראמפ: "תיפטרו מהשגרירה באוקריאנה כבר מחר. לא אכפת לי. מחר"

הקלטת שנחשפה: נשיא ארה"ב קרא לפטר את השגרירה כבר ב-2018 ● בקלטת נשמע טראמפ, בנוכחות לב פרנס, מאכער אמריקאי-אוקראיני, שפעל מאחורי הקלעים להיפטר מהשגרירה, בעידודו של רודי ג'וליאני ● נסיבות פיטוריה של יובאנוביץ' נעשו אחד ממוקדי החקירה החשובים ביותר באימפיצ'מנט

הנשיא טראמפ./ צילום:רויטרס

פרקליטי טראמפ: התנהלות הנשיא באוקראינה – למען האינטרס הלאומי

בפתיחת שלב ההגנה במשפט טראמפ בסנאט טוענים עורכי הדין שלו: הדמוקרטים שואפים לקרוע את טפסי ההצבעה וליטול מהבוחרים את זכותם להחליט

בני גנץ / צילום: שלומי יוסף

גנץ סירב להגיע לבית הלבן עם נתניהו וקיבל הזמנה אישית מתוקנת

בהתייעצות עם חבריו להנהגת הרשימה התגלעו חילוקי דעות, וגנץ החליט שלא לכפות את עמדתו ● "גנץ הודיע בשישי כי לא ייעתר להזמנה לבוא עם נתניהו, אבל שוכנע לדחות את ההחלטה הסופית, ובמהלך השבת קיבל הזמנה נפרדת, ולכך נענה"

התקנת סיבים אופטיים של IBC / צילום: איל יצהר, גלובס

מיזם הסיבים צפוי לגייס 300-400 מיליון שקל בהובלת אפסילון ולידר

מטרת הגיוס של IBC היא להאיץ פריסת סיבים אופטיים ולקדם את פעילות האינטרנט של המיזם ● הגיוס יתבצע באמצעות הלוואה פרטית או בדרך של הנפקת אג"ח שייסחרו במערכת רצף מוסדיים בלבד

יוסי זינגר וארז בלשה / צילום: תמוז רחמן

קרן ג'נריישן רוכשת מידי עזריאלי את חברת ההתפלה GES בכ-110 מיליון שקל

GES עוסקת בטיפול, טיהור והתפלת מים ושפכים ● במסגרת העסקה נקבע כי ככל שהיא תושלם עד 31 במאי, כל רווחי GES החל מ-31 במרץ יישארו בחברה ● השלמת העסקה צפויה עד ליום 24 לאפריל 2020

יורם דמבינסקי / צילום: איל יצהר, גלובס

סוף לסיפור: משרד הפרסום JWT ייסגר באפריל

ההחלטה לסגור את המשרד התקבלה ע"י בעלי קבוצת WPP בחו"ל, שגמרו בדעתם לסגור את הנציגות בארץ ● סגירת הפעילות של JWT כוללת גם את סגירת הפעילות של y&r ישראל

ג'ף הורינג / צילום: יח"צ

אינסייט רכשה מניות מון אקטיב בהיקף של 125 מיליון דולר

קרן ההשקעות האמריקאית רכשה מניות של חברת המשחקים מון אקטיב לפי שווי של 1.25 מיליארד דולר ● הקרן רכשה את המניות מבעלי מניות קיימים, והכסף לא נכנס לקופת החברה

ג'ף בזוס, מנכ"ל אמזון / צילום: רויטרס Rex Curry

תמונה של בזוס ללא חולצה והודעה פלרטטנית: אלו הראיות שנמצאות בידי התביעה בחקירת ניסיון הסחיטה

הכול נשאר במשפחה: לפי מקורות יודעי דבר, מי ששלח את ההודעות שהוחלפו בין מנכ"ל ומייסד אמזון לבת זוגו הוא לא אחר מאשר אחיה של סנשז ● האח: השגתי את המסרונים ואת התצלומים בדרכים חוקיות

דולי פרטון / צילום: Peter Nicholls, רויטרס

אתגר התמונות של דולי פרטון שובר את האינטרנט

זמרת הקאנטרי האמריקאית פרסמה קולאז' תמונות שהצליח להשתלט על כל פיסת אינטרנט בשבוע האחרון ● מפורסמים מכל העולם, ממיילי סיירוס ועד בנימין נתניהו, ראו ורצו גם

מודי שפריר / צילום: Tracy מחברת Paul clarke

"מחירי הדירות יעלו, השקל ימשיך להתחזק": האסטרטג של מזרחי טפחות לא רואה מיתון באופק

מודי שפריר מעריך כי הצמיחה במשק תימשך השנה, אך בקצב מעט נמוך יותר ● בבנק צופים אפשרות של הורדת ריבית פעם אחת במהלך 2020, לרמה של 0.1%, ללא השפעות משמעותיות למהלך

גדעון תדמור / צילום: תמר מצפי

ההפקה החדשה של גדעון תדמור: מונה ליו"ר איגוד החברות הציבוריות

וגם: גבי מיודובניק יחליף את רן מידן כמנכ"ל חברת נטפים

משרדי רישום מקרקעין./ צילום: תמר מצפי

התשלום המקוון בטאבו הוא לא מהפכה שתעמוד בפני עצמה

האפשרות של בעל נכס לקבל התראה אם מישהו מנסה לבצע פעולה בנכס שרשום על שמו היא שיפור נחמד, אבל בשירות רישום המקרקין דרוש שיפור גדול יותר

התפרצות וירוס הריאות המסתורי בסין / צילום: Koki Kataoka, רויטרס

האם מקור הנגיף בנחש, ולמה בני 40 צריכים לחשוש מהידבקות: שאלות ותשובות על נגיף הקורונה המסתורי והקטלני

נגיף הקורונה ממשיך להתפשט ולייצר חששות גוברים מצד ממשלות ואזרחים ברחבי העולם ● נכון להבוקר הדיווחים הרשמיים בסין מדברים על 56 מקרי מוות ועל כ-2,000 אנשים מאובחנים ● "גלובס" עם שאלות ותשובות על הנגיף "המסתורי"