עם הנוחות, יגיע גם האמון ברובוטים

הסנסורים הטכנולוגיים יודעים מה אנו עושים בכל רגע נתון. כיצד נוכל לסמוך עליהם?

רובוטים / איור: shutterstock
רובוטים / איור: shutterstock

אתם מכירים אותם, את הסנסורים שעוקבים אחרינו גם במקום העבודה. אלה שמדליקים את האור כשאנחנו נכנסים לחדר או מכבים את המיזוג כשאנחנו יוצאים ממנו. בעולם החדש, הסנסורים האלה יכולים לעשות הרבה יותר, בין היתר לדעת היכן אנחנו נמצאים בדיוק בכל רגע נתון, מה אנחנו עושים ועם מי. נוכחות הטכנולוגיה עוד תלך ותגבר ותלבש צורות חדשות, כשיסתובבו בינינו ישויות שאינן בעלי חיים אלא חפצים שנתנו להם בינה ויכולת תנועה.

הכלים הטכנולוגיים האלה שם כדי לעשות עבורנו את העבודה או להקל את חיינו (לדוגמה, מכוונים אותנו למקום חניה או לחדר ישיבות פנויים) אבל גם מעוררים בנו לפעמים תחושה לא נוחה. כדי שהם יוכלו באמת לעזור לנו, אנחנו צריכים להתרגל אליהם ולסמוך עליהם. האם זה אפשרי?

לרוב אנחנו סומכים על מכשירים כשיש לנו יכולת לחזות כיצד הם יפעלו במצבים שונים, גם אם אנחנו לא יודעים מדוע הם פועלים כך. לדוגמה, אנחנו סומכים על המחשב שלנו כי אנחנו יודעים איך הוא פועל ואיך הוא נראה כשהוא משתבש. אם המחשב שלנו יעשה פתאום דבר מה לא צפוי, נפסיק לסמוך עליו.

לגבי אנשים, לעומת זאת, הדבר שמאפשר לנו לסמוך עליהם הוא הבנת האמונות, הערכים והאופי שלהם. אנחנו לא יודעים בדיוק מה הם יעשו, אבל אנחנו יודעים מדוע הם עושים את מה שהם עושים. כדי לסמוך על חפצים בעולם של בינה מלאכותית, אנחנו צריכים או לדעת לצפות אותם או להבין את הבסיס שעל פיו הם פועלים.

התרגלנו שהטכנולוגיה עובדת בהתאם לציפיות שלנו, כי עד היום היא פשוט עשתה מה שאמרנו לה, מה שתכנתנו אותה לעשות. אבל הטכנולוגיה האוטונומית שונה - היא מקבלת החלטות ולכן יכולה לפעול בניגוד למה שהורגלנו בו, לקבל החלטות שונות מאלה שהיינו מצפים להן. מחקר שנעשה באיחוד האירופי ובדק את היחס של אנשים לרובוטים מצא שבתחומים מסוימים אנחנו לא סומכים עליהם ואף חושבים שיש לאסור את כניסתם.

קיראו עוד ב"גלובס"


כך, לדוגמה, 60% טענו שאסור שרובוטים יטפלו בילדים, בזקנים ובנכים; 30% טענו שאסור שייכנסו לתחומי החינוך והבריאות. לעומת זאת, יש תחומים שבהם אנחנו דווקא מרגישים איתם בנוח, כמו חקר החלל, בתחומי צבא וביטחון ובייצור.

ניקח לדוגמה את הדילמות העולות כיום בתחום הרכב האוטונומי. סביר להניח שכלי הרכב הללו כבר היום בטוחים יותר מאשר כלי רכב הנהוגים על ידינו, אבל הם לא יהיו מושלמים, כלומר יהיו מצבים שבהם רובוט יצטרך לקבל החלטות ששמות חיי אדם על הכף.

החוקים הנהוגים כיום מגדירים את הסטנדרטים האתיים של בני אדם. למשל, איך יודעים מי אשם בתאונה? כיום החוק מביא בחשבון גורמים שונים, ועל מערכת אכיפת החוק לשפוט אם מעשי הנהג האנושי היו סבירים בנסיבות מסוימות. המצב הנוכחי מניח שכל אחד מאיתנו יכול לדעת מה היה עושה אדם סביר באותן נסיבות ולהניח אותן הנחות לגבי מצבים מוכרים כמו ילדים שרצים לכביש, השלכות של שתיית אלכוהול על נהיגה, השלכות תנאי מזג האוויר ותנאי הכביש וכדומה.

איך נראית המערכת הזאת כשהנהג הוא בעצם רובוט? מהי התנהגות סבירה של רובוט בכביש? ההנחה היא שהרובוט הסביר צריך לעמוד בציפיות לפחות כמו נהג בן תמותה, ורצוי שיותר מכך. כדי שזה יקרה, נכנסות כאן לא רק טכנולוגיות מורכבות, אלא גם שיקולים אתיים. בקליפורניה נדרשת כל מכונית אוטונומית שעושה תאונה למסור לרשויות הרישוי את פרטי הסנסורים ב-30 השניות שקדמו לתאונה. זה אומר שלמהנדסים יש כל המידע לבחון את פרטי התאונה וללמוד את האלטרנטיבות להחלטות שהתקבלו.

הבעיה הגדולה ביותר בהחלטות האלה היא במישור האתי - איך מחלקים את הסיכון שבנהיגה בין הנהג, הנהגים האחרים, הולכי הרגל, רוכבי האופניים ואפילו הנכסים שבשטח. בני אדם יודעים באופן אינטואיטיבי מתי עליהם לפעול בניגוד לחוק כדי להציל חיי אדם, לדוגמה. אם ילד קופץ אל הכביש מולכם, ייתכן שתחליטו לחצות קו הפרדה רצוף כדי להימנע מפגיעה בו. ברכב אוטונומי, ההחלטה הזאת אינה תלויה באינטואיציה אלא בהסתברויות.

הדיון הזה רלוונטי לעולם העבודה משום השימוש המתרחב בסנסורים גם במשרדים. סנסורים מספקים תמונה על האופן שבו אנחנו עושים שימוש במרחב, מתי נדרשים סוגים מסוימים של חללי עבודה ואילו מרחבים תורמים לחיבור בין העובדים וליעילות.

דמיינו שאתם מגיעים לחניה והנייד שלכם, המחובר לאפליקציה של הבניין, מצביע על מקום חניה פנוי. אחר כך הוא אומר לכם היכן יש מקום פנוי לעבודה אישית, מאחר שהוא מכיר את היומן שלכם ויודע שעכשיו אין לכם פגישה. לקראת פגישה, הוא אומר לכם היכן יש חדר ישיבות פנוי, ואחר הצהריים, לקראת פגישת וידאו עם עמיתים בחו"ל, הוא סוגר לכם חדרי וידאו במקומות המתאימים בעולם. בארוחת הצהריים, הוא מדווח לכם מה בתפריט ומה מצב התורים ובאיזו שעה כדאי לרדת לאכול. הוא מזכיר לכם לקום מהשולחן ולזוז, גם למען בריאות הגוף וגם כדי לפגוש אנשים במסדרון.

פרטיות היא הרגל

ב-Bank Of America לקחו את החזון הזה צעד קדימה. בניסיון להבין מה גורם למרכז תמיכה אחד להיות יעיל יותר מאחרים, הבנק צייד את העובדים בתגים עם סנסורים שקולטים את טון הדיבור ואת האופן שבו העובדים נעים ומשוחחים לאורך היום.

הנתונים הראו שהעובדים הטובים ביותר חברים בצוותים שמשוחחים הרבה, וזה הוביל את הבנק להגדיר בין השאר זמני הפסקה לצוותים שלמים יחד - צעד שהגביר את היעילות במרכזי השירות ב-10%. אמנם התגים לא הקליטו את השיחות, רק את טון הדיבור, והמידע הועבר ללא פרטים אישיים, ולמרות זאת, ניסויים כאלה מעוררים מחלוקת גדולה הנוגעת לחדירה לפרטיות.

פרטיות? איזו פרטיות? הרי הנייד שלכם כבר היום יודע היכן אתם נמצאים ולאן אתם הולכים; הרשת יודעת היכן ביקרתם ומה מעניין אתכם; ואם תכנסו ל-Google Location Timeline תגלו שכל תנועה שלכם, לפחות כל תנועה שלוותה בנייד, נרשמה ותועדה ועושים בה שימוש. ולמרות זאת, אנחנו עדיין פותחים וייז בכל בוקר ורושמים ביומן האלקטרוני את הפגישות ונהנים מהעובדה שהדפדפן זוכר אותנו.

פרטיות, אם כן, היא עניין של הרגל וגם של אמון. כדי שנרגיש בטוחים במקום העבודה, אנחנו רוצים לדעת מה בדיוק אוספים עלינו, מה עושים עם זה ואיך זה קשור אלינו, ליכולת למדוד אותנו, לנהל אותנו באופן אישי. אבל כמו בתחומים רבים אחרים, אנחנו מתרגלים לנוחות שהטכנולוגיה מספקת לנו דווקא בכך שהיא מכירה אותנו, זוכרת אותנו, לומדת אותנו. ועם הזמן אנחנו מפסיקים לזכור איך זה היה לפני שהיא הייתה קיימת.

אין אמון
 אין אמון

■ הכותבת היא דירקטור משאבי אנוש באינטל העולמית ובעלת הבלוג "על עבודה וקריירה באמצע החיים", www.niritcohen.com

לכתבה הקודמתלחשוב על 2040 כבר עכשיו