רובוטים, זומבים ומראה שחורה: "תחושת הקריפיות חשובה להישרדות"

מדוע לסירי ולאלקסה יש קול שהוא לא אנושי מדי, ומדוע רובוטים שנבנו כדי להפיג את בדידותם של אנשים מבוגרים לא תפסו? פרופ' קן גולדברג, חוקר מוביל בעולם בתחום הרובוטיקה ואמן, עוסק בתחושות שמעורר מפגש עם רובוט ומאמין שהאנושות לא תוותר על השליטה במציאות

פרופ' קן גולדברג/ צילום:עדי סאב
פרופ' קן גולדברג/ צילום:עדי סאב

מה משותף לזומבים, לסירי ולסדרת הטלוויזיה "מראה שחורה"? הם כולם מעוררים בנו חוויה שקשה להגדיר אותה בדיוק אבל זיגמונד פרויד כבר נתן לה שם: Uncanny, ובעברית: "מוזר", "מסתורי" או "על טבעי". פרויד דיבר על החוויה שנוצרת בעקבות מפגש עם כל דבר שהוא כמעט אדם חי ותבוני, אבל לא בדיוק. אותה חוויה שנוצרת גם במפגש בין בני אדם לרובוטים.

שאלת ה-uncanny היא מהותית בבניית רובוטים, מאחר שמידת הדמיון ביניהם לבין בני אדם משפיעה על התחושות שהם מעוררים בנו. אבל לא רק במעבדת רובוטיקה, גם בחיי היומיום אנחנו עדים לטשטוש הולך וגובר בין מציאות לדמיון, הודות למערכות בינה מלאכותית שנעשות נפוצות יותר ויותר. פרופ' קן גולדברג מאוניברסיטת ברקלי, חוקר מוביל בתחום הרובוטיקה ואמן, עוסק בשאלת ה-uncanny ובשאלת הטשטוש בין דמיון למציאות בווירטואליה (שאלה שנגענו בה גם במדור על מערכות יחסים חד-צדדיות והתפרסם לפני שבועיים), שגולדברג מכנה "טלה-אפיסטמולוגיה". כלומר, כיצד אנחנו יודעים שדבר הוא אמיתי בלי שהוא נמצא בסביבתנו הקרובה ונוכל לחוש בו.

"ה-Uncanny היא הרגשה שנחווית ממש בגוף, והיא כמעט אוניברסלית", הוא אומר בראיון ל"גלובס". "לרוב, אנחנו נגיד שאנחנו מרגישים שמשהו הוא 'קריפי', ונראה שהתחושה היא כה חזקה, עד שהיא מגינה עלינו. חשוב מאוד להישרדותנו להבין מתי משהו חי ומתי מת, מתי משהו הוא בשליטתנו, ומתי יש לו כוח רצון משלו".

חלון לתודעה של הרובוט

גולדברג מבדיל בין representational uncanny, קריפיות שנובעת מדמיון פיזי של עצם דומם לדבר חי, לבין experiential uncanny , שהיא התחושה שנובעת מחפץ דומם המתנהג כאילו הוא חי - לדוגמה מכונית אוטונומית או צ'ט עם רובוט. במקרה הזה, כפי שהסביר כבר פרויד, תחושת ה-Uncanny קשורה לחוסר הנוחות הנובע מהרעיון שמישהו מסתכל עלינו, צופה בנו בלי ידיעתנו.

"אנחנו מתנהלים בצורה שונה לגמרי בעולם כשאנחנו לבד וכאשר מישהו צופה בנו", אומר גולדברג. "לכן אנחנו מרגישים אי-נוחות רבה מאוד כשאנחנו לא בטוחים אם יש בחדר עוד משהו חי, מתבונן, קולט. זו אחת הסיבות לכך שאנחנו כל כך מוטרדים מהרעיון שהטלפון שלנו בעצם מקליט אותנו או צופה בנו בלי ידיעתנו, ולכן כל כך מטריד הרעיון של מצלמות נסתרות. גם הן יכולות לגעת בתחושה הזאת של ה-"Uncanny.

מרכיב אחר של החוויה הוא החשש מהרעיון שמישהו אחר יכול לשלוט במה שאנחנו עושים. האם אנחנו שולטים במעשינו או שמא אנחנו מכונה? האם אנחנו חיים לגמרי, או שמא אנחנו דוממים שרק נראים חיים?

רובוט /   צילום:  Shutterstock/ א.ס.א.פ קרייטיב
 רובוט / צילום: Shutterstock/ א.ס.א.פ קרייטיב

והרי לכם פרשנות להרגשה הלא נוחה, אך המאוד מושכת ומרתקת, בעת צפייה בסדרה "מראה שחורה". הסדרה הזאת מעוררת בהתמדה את תחושת ה-uncanny - למשל, בפרק שבו יוצרים רובוט בדמות אדם שמת, והוא כמעט זהה ותחליפי למי שהיה; בפרק שבו אישה זועקת לעזרה להמון שמצלם אותה כאילו הייתה תוכנית ריאליטי, ולא אדם אמיתי העומד לפניהם; בפרק שבו בני אדם הם בעצם תוכנת מחשב, מאופסנים בחוות שרתים ענקית, וזרוע רובוטית מטפלת בהם; או בפרק שבו מושתלים באנשים חיישנים במוח, המונעים מהם לדעת אם הם במציאות או בתוך משחק מחשב.

"אין ספק שה-uncanny מאוד מושך מבחינה אמנותית, כיוון שאמנות טובה תמיד הולכת על הגבול ומשחקת עם הבנת המציאות שלנו", אומר גולדברג. ברפרור למאמר הדגל של פרויד בנושא, גולדברג טוען שה- uncanny הוא "המודעות למודעות". הוא בעצם חושף את ההדחקה הגדולה ביותר, שהיא ההתעלמות היומיומית שלנו מעצם קיומה של תודעה שמתווכת בינינו לבין החוויה של האמת. כשאנחנו מודעים לעצם קיומה של התודעה, אנחנו מבינים שאין לנו היכולת לדעת - האם היא באמת שלנו? בשליטתנו? האם היא באמת שונה ממה שמתרחש בחפצים דוממים?

"כבר במאה ה-17, כאשר חלק מהציבור החל להאמין במדע על חשבון אלוהים ולהבין שגוף האדם מתפקד פחות או יותר כמו מכונה, התעוררה אי-נוחות לגבי שאלת הרצון החופשי שלנו, ומה בעצם מבדיל בינינו לבין המכונה. באותה תקופה התפתחו גם המיקרוסקופים והטלסקופים הראשונים, שאפשרו לראות את העולם באופן אחר לגמרי, לגלות בו שכבות נוספות, ויצרו תחושת זרות מהעולם שנוספה לחשש הזה".

מאז אנחנו רק לומדים יותר לגבי תפקודנו כמכונות, לגבי העולמות המדהימים החבויים בנו בלי שנוכל לראותם, ולגבי היכולות של מכונות, ההולכות ונעשות דומות לשלנו. אחת היצירות שסוקר גולדברג במאמר העוסק ב-Uncanny היא "הרובוט העיוור". המבקרים בתערוכה שבה הוצג התבקשו לשבת מול שתי זרועות רובוטיות, שמיששו בעדינות את פניו ואת גופו של המשתתף, כפי שהיה עשוי כנראה לעשות אדם עיוור לו היה מנסה להכיר את גופם. על הקיר מולם עמדה מראה, שבה יכלו לראות את פניהם במהלך האינטרקאציה. במקביל, על מסך, יכלו המשתתפים לראות את המסקנות שמסיק הרובוט לגבי איך הם נראים, "חלון לתודעה של הרובוט", הגדיר זאת האמן.

עבור רוב המשתתפים, חוויה של רובוט "חברתי" שנוגע בהם היא ודאי חדשה.המגע הזה יוצר חוויה אינטימית, ותחושה שהרובוט הוא מלא כוונה במחקר שלו, אף שהמשתתף מודע לחלוטין שיש כאן רק שתי זרועות מתכת - לא גוף ולא פנים ולא עור. ההגדרה של הרובוט "עיוור" מעוררת חמלה ומבוכה קלה, שנובעת מהתחושה שהייתה עשויה להתעורר אצלנו אם אדם עיוור אמיתי היה מבקש לגעת בנו, אך גם סקרנות לגבי הדרכים האלטרנטיביות שבהן הרובוט "רואה".

פרופ' קן גולדברג בסדנה לתכנון רובוט ביתי בבית הנסן בירושלים/ צילום: עדי  עדי סאב
 פרופ' קן גולדברג בסדנה לתכנון רובוט ביתי בבית הנסן בירושלים/ צילום: עדי עדי סאב

"צעקתי על אלקסה, תפסיקי מיד!"

בניגוד אולי לאמנים, למתכנני רובוטים ובינה מלאכותית חשוב מאוד לתכנת אותם כך שלא ייפלו ב-Uncanny Valley, המקום בין החי לדומם שעלול לעורר אי-נוחות. "כאשר גוגל ואפל תכננו את אלקסה ואת סירי, הם נתנו להן בכוונה קולות שהם לא לגמרי אנושיים", אומר גולדברג. "קול אנושי מדי יקשה עלינו לתת פקודות לרובוט, וגם ייתן לנו תחושה מוזרה שהרובוט מביט בנו או שופט אותנו".

גולדברג מספר גם שגוגל נאלצה לבטל שירות קביעת תורים ממוחשב לאחר שהלקוחות זעמו על כך שנתנו להם לדבר עם רובוט בלי ליידע אותם. הם חשו מרומים.

זה גם עובד הפוך. כאשר אנשים מתרגלים לתת פקודות ליצור שהם חווים כקרוב לאנושי, זה עלול לבלבל אותם כשהם מדברים עם אדם אמיתי. הם עלולים לשכוח שאינו רובוט.

"זה בערך מה שקרה לי לפני כמה זמן. עמדתי במטבח ובישלתי והיה המון רעש בבית, והילדה שלי וחברה שלה התרוצצו במטבח, ותך כדי כך אני אומר, 'אלקסה, מה המתכון', 'אלקסה, כמה זמן בתנור', ואז הרעש כבר הפך מוגזם והרובוטית המשיכה לדבר, וצעקתי, 'אלקסה! תפסיקי מיד!' והחברה של הבת שלי נעמדה המומה ואמרה 'מה... מה עשיתי?'".

אוי, מסכנה.

"מתברר שגם לה קוראים אלקסה".

גולדברג הגיע לאחרונה לישראל כדי להעביר סדנה לתכנון רובוטים ביתיים בבית הנסן שבירושלים. במסגרת הסדנה, שהייתה המשך לכנס בינלאומי שיזמו ותכננו בצלאל, האקדמיה לאמנות ועיצוב, בשיתוף אוניברסיטת בן גוריון ועסק בקשר בין רובוטיקה לאמנות ועיצוב בדגש על אינטראקציית אדם-רובוט.

בסדנה, עבדו סטודנטים לעיצוב ולאמנות לצד אנשי רובוטיקה ופילוסופים על עיצוב של רובוטים לתמיכה בגיל השלישי.

"המטרה הייתה לעצב רובוט לאדם מבוגר יהודי. בעיקרון, אתה מעצב רובוט לסבאל'ה שלך", מספר גולדברג, שנוסף על כל עיסוקיו חוקר באמנות שלו גם את שאלת הזהות היהודית בארה"ב (ראו מסגרת).

"אחד הפרויקטים היה 'טלה-כלב'. זה למעשה כלב, חי ואמיתי - וכך אנחנו פותרים את שאלת ה-uncanny, כי ללא ספק יש פה יצור חי - אבל הכלב הוא גם רובוט, כי יש עליו חיישנים, והוא יכול להעביר מידע החוצה. כמו כן, אנחנו מאמנים אותו לפעול בתרחישים שונים, למשל לנבוח בצורה מסוימת אם הוא חושב שיש פורץ, והמערכת שלנו קולטת את המידע הזה. כך הכלב הוא בעצמו חיישן, ובעצמו סוג של רובוט". גולדברג מאמין שניתן לאלף כלב כזה, כפי שמאלפים היום כלב נחייה לעיוורים, אפילו לעזרה בבית - להרים חפצים קטנים מהרצפה שעלולים להתקיל את המבוגר בדרכו, או לעודד אותו בעדינות לקום וללכת לטיול כשהוא נייח. אגב, הייתה מחשבה שזה יכול להיות גם חתול, אבל בתור בעל חתול אני אומר שאין סיכוי. חתול לעולם לא ישתף פעולה עם בני אדם ככה.

"פנינו לרעיון של הטלה-כלב אחרי שהרובוטים שאמורים היו להפיג בדידות למבוגרים לא כל כך תפסו. למשל אלקסה מנסה לשוחח עם המשתמשים בה, אבל אלה לא שיחות מספקות. אני לא רוצה להרגיש שאני מבוגר ומדבר למכונה, אולי זה גורם לי להרגיש פאתטי. אולי זה גורם לי להיות מדוכא אפילו יותר.

"אנחנו זקוקים לטכנולוגיה עבור המבוגרים בחברה שלנו, אבל לא טכנולוגיה שתחליף בני אדם, אלא טכנולוגיה שתעזור לנו בחיים שלנו כך שנוכל להיות בתקשורת עם בני אדם אחרים. אולי הרובוט יכול לעזור לנו לתקשר עם מבוגרים אחרים בסביבה שלנו, גם אם כולם יושבים בבית. אולי אתה עייף ואין לך כוחות ליזום, אבל אם יתנו לך את התקשורת על מגש, ללא צורך ליזום, כן תוכל להיעזר בה".

"אף אחד לא רוצה מציאות מדומה שדומה מדי למציאות"

בימים הראשונים של האינטרנט, שתל גולדברג גינה ונתן לרובוט לטפל בה. אנשים מכל העולם יכלו להיכנס לאתר של ה"טלה-גינה", כפי שכינה אותה, ולטפח אותה. אלפי אנשים עשו זאת בלי לשאול שאלות, עד שאחד מהם אמר יום אחד: "איך אני יודע שהגינה הזאת אמיתית? ואיך אני יודע שזה באמת אני שמפעיל אותה?".

לדברי גולדברג, "כל טכנולוגיית חישה חדשה מעוררת בנו שאלות כאלה. זה מחזיר אותנו אחורה, למשל, לגלילאו ולטלסקופ. הכנסייה שאלה 'איך אנחנו יודעים שמה שהוא ראה באמת קיים בשמים? אולי הוא הדביק עיגולים לעדשה או משהו?' עם הזמן והניסיון אנחנו לומדים לסמוך על הטכנולוגיה הזאת, אך האמנם בצדק?

"אנחנו יודעים שהיום, 20 שנה אחרי הטלה-גינה, השאלה מה אמיתי היא שאלה מאוד משמעותית באינטרנט, ובכלל במקורות המידע שלנו. היום אתה יכול לרקוח שמע שלא קיים וליצור תמונה שקרית לחלוטין שמעולם לא הייתה קיימת, ועל הרקע הזה כל אחד יכול להיות לומר כל דבר.

"היתרון הוא שבסביבה כזאת, אנשים עשויים לפתח כלים של בדיקת מציאות. אני לא חושב שאנשים מוכנים לוותר על האמת, אלא שיש להם אמיתות אלטרנטיביות וכל מיני דרכים להסתכל על העולם. ובכל זאת יש הבדל בין נרטיבים שונים לבין שקר אקטיבי.

"אז אילו אסטרטגיות יש לנו כדי לבחון אם דבר הוא אמיתי? כשאנחנו נמצאים ממש בעולם, אנחנו יכולים לפעול בו ולראות תגובה. למשל, אנחנו מסובבים את הראש, והעולם מסתובב לעומתנו בדיוק. זו פעולה שנותנת את תחושת הנוכחות, ה-Immersion, שעדיין קשה מאוד לתרגם למציאות הווירטואלית. בטלה-אפיסטמולוגיה, אני אפנה את המצלמה שאני יכול להזיז כדי לראות אם הסצנה תתנהג באופן שבו אני מצפה גם מהזווית החדשה.

"ברמה היותר כללית, אני מצפה שאנשים יתחילו לחדד את חוש הסקפטיות ולשאול על המידע שלהם שאלות, ולשים לב אם מצליחים לראות בו דפוסים של סיבה ותוצאה, שלא היו יכולים להתקיים אם היה מפוברק".

האם ייתכן שאנשים יוותרו על האותנטיות כפי שוויתרו על הפרטיות?

"אני חושב שאותנטיות לא תצא מהאופנה, כי היא מאוד חשובה להישרדות שלנו. אני מרגיש שאף אחד לא רוצה שהמציאות המדומה שעומדים להציע לנו בקרוב תהיה דומה מדי למציאות האמיתית, וגם חשוב לנו שיהיה מפסק עצור, שבתוך רגע מחזיר אותנו למציאות. אנחנו לא נסבול מצב שבו חוויית המציאות החלופית שלנו לא תסתיים ברגע שנאמר 'סיימתי'. יש לנו חשק עז למציאותי, לאותנטי, לטבע, למפגש פנים אל פנים".

צרו איתנו קשר *5988