"כשהמכונית האוטונומית מדברת עם הנוסעים - הם מאמינים לה"

המשימה של ג'ק ווסט, מהנדס הנהיגה האוטונומית של אינטל המחזיקה במובילאיי, היא לגרום לאנושות לסמוך על כלי רכב שנוהגים בעצמם, למרות התאונות והחשש להוריד ידיים מההגה • בשיחה עם "גלובס" הוא מסביר איך גורמים לאלגוריתם לנהוג כמו בן אדם, מדוע המכונית צריכה להסביר לנוסעים את החלטותיה, ומתי דווקא עדיף שהיא תשתוק

ג'ק וויסט/  צילום: רפי קוץ
ג'ק וויסט/ צילום: רפי קוץ

יש חוזה בלתי כתוב בין יצרני מעליות לבינינו, העולים והיורדים: אנחנו לוחצים על הכפתור המבוקש והמעלית תנוע, תעצור, תפתח את הדלת, לא תנעל אותנו במחשכים, לא תתרסק בתחתית הפיר. יש גם חוזה בלתי כתוב בין מפעילי פארקי שעשועים לחובבי רכבות ההרים המטורפות: אנחנו נעלה לגובה לא סביר, נצנח מטה ונסתחרר בכוח G מערפל חושים, אבל אחרי זה נלך לאכול המבורגר. קוראים לזה אמון.

חוזה כזה לא קיים עדיין בינינו לבין יצרני המכוניות האוטונומיות. נסיעת ניסיון במכונית כזו יכולה להיות חוויה מורטת עצבים הרבה יותר מהאנקונדה בלונה פארק תל אביב. אתה מנחה את המכונית להגיע במהירות סבירה מהר חוצבים בירושלים לצומת פת בואכה איצטדיון טדי, ופתאום היא מחליפה נתיב נסיעה, נדחפת שמאלה בין שתי מכוניות, מאיטה ומאיצה חליפות, ההגה מסתובב כאחוז כישוף, ואיפה לעזאזל הברקס?

האמון שיש לנו במעליות, רכבות הרים וגם בטייסים אוטומטיים במטוסים עדיין לא התהווה כשמדובר במכוניות אוטונומיות. ג'ק ווסט, מהנדס המערכות הראשי לנהיגה אוטונומית באינטל, הוא הראשון להודות בזה. הוא יודע שהאמינות המוחלטת של המכוניות האלה יעשו את ההבדל בין תעשייה של טריליוני דולרים לבין פלופ קולוסאלי.

אבל לא רק באמון שלנו מדובר, אלא קודם כל בזה של הרגולטורים. אם רשויות הפיקוח על התחבורה בארה"ב, גרמניה, סין וגם ישראל לא יחשבו שכלי רכב אוטונומיים בטוחים מספיק, הם פשוט לא יעלו בהמוניהם על הכביש. בינתיים הרגולטורים מהססים מאוד, גם על רקע התאונות שבהן כמה מהמכוניות כבר היו מעורבות: רק במרץ האחרון אובר נאלצה להשעות זמנית את ניסוייה בטכנולוגיה לאחר שמכוניתה דרסה למוות הולכת רגל. אם הרגולטורים לא ישתכנעו מהר, זה יעלה הרבה כסף לה ולחברות כמו טסלה, BMW, ג'נרל מוטורס, וכמובן אינטל-מובילאיי.

ווסט, איש נמרץ ולבבי, נמצא בתקופה האחרונה לא מעט על הקו שבין הר חוצבים לפניקס, אריזונה. 100 מכוניות ניסוי של מובילאיי מסתובבות במקומות שונים בעולם, אחדות מהן מפלסות דרכן בעומסי התנועה של ירושלים. כמויות המידע האדירות שנוצרות בכל נסיעה כזו הן מושא מחקר לא רק למהנדסי האלקטרוניקה, המחשבים והתחבורה, אלא גם לצוות של ווסט, שעוסק בבניית אמון. "האחריות שלי היא להוביל את המאמצים שלנו בנושא מאוד חשוב: איך אתה יודע שרכב אוטונומי הוא בטוח", הוא אומר. במחשבה שנייה הוא מבקש לדייק: "בטוח מספיק כדי להעלות אותו על הכביש ולתת לו רישיון לנסיעה".

לעבור לשמאל בלי שיעקפו אותך

ההבדל בין שני הניסוחים הוא תמצית העניין: שום כלי רכב אינו בטוח באמת, ולראייה מאות תאונות דרכים מדי יום, רובן נובעות מטעויות אנוש. ובכל זאת, רשויות הפיקוח מאפשרות למכוניות חדשות שבהן נוהגים בני אדם לעלות על הכביש, אבל עדיין מהססות כשמדובר בבינה מלאכותית. ווסט חושב שאינטל מצאה את הנתיב לעורר את האמון הנדרש, דרך שונה מזו של המתחרים.

"יש שתי דרכים שבהן יזמים בתעשייה מנסים לשכנע שכלי הרכב האוטונומיים בטוחים", הוא מפרט בשיחה עם "גלובס", "דרך אחת מתבססת על מספר המיילים שנסעתי עד כה: מיליון או שני מיליון מייל בלי תאונה. הבעיה היא שיכול להיות שנסעתי מיליון מייל בדרך חד-סטרית ללא הולכי רגל או שלטי עצור. בשיטה השנייה היזם אומר: אני פיתחתי את זה, אני לא יכול להוכיח לך שזה בטוח, אבל סמוך עליי'. אנחנו מאמינים ששתי הגישות האלה אינן מתקבלות על הדעת".

בנקודה הזו ווסט מצליח לשכנע: תעשיית הנהיגה האוטונומית צריכה לספק טיעון מקיף, מפורט ובעיקר שקוף, שמראה לצרכנים ולרגולטורים איך מכוניות אוטונומיות מקבלות החלטות ומדוע אפשר להאמין שהן יביאו אותנו בביטחון ליעדנו. "ניסינו לחשוב איך בני אנוש נוהגים. אתה הרי מכיר אנשים סביבך שלא היו מעורבים בתאונות דרכים מעולם. שאלנו את עצמנו 'מהם המאפיינים של הנהגים המצוינים האלה?'. התשובה לא נעוצה בחוקי התעבורה, שהיית יכול לתכנת לתוך מחשב. זו פרשנות אנושית סובייקטיבית של החוקים, דברים כמו שמירת מרחק, או זהירות יתר כשאתה באזור הולכי רגל, או מתן זכות קדימה לנהג שמתעקש - גם אם לפי החוקים היא שלי".

האתגר הגדול הוא לגרום לבינה המלאכותית לחקות את ההתנהגות הזאת, גם מבלי שיש לנו אפשרות להבין לחלוטין את שיקוליה. "AI היא דבר נהדר בתחומים אחרים, אבל מאוד בעייתית כשמדובר בבטיחות נהיגה. אלה מערכות מבוססות הסתברות, ואין ספק שהן ייתנו המלצות נכונות 98% מהזמן. אנחנו מנסים להתמודד עם 2% האחרים, החלטות שגויות שיובילו לתאונות במצבי קיצון".

ווסט ואנשי הצוות שלו תרגמו את התנהגות הכביש האנושית לאוסף משוואות מתמטיות פורמליות. לנסוע במהירות חוקית בנתיב הימני זה הבסיס. להאט כמתקרבים למשאית זה עדיין בגדר מובן מאליו. אבל לאותת ולעבור לנתיב השמאלי בזמן הנכון, בלי לסכן חיים אבל גם בלי שהנהגים האחרים ימהרו ויעקפו אותך - זו כבר פרשנות אנושית. "נהיגה אסרטיבית", כינה זאת פרופ' אמנון שעשוע, מייסד מובילאיי. בנקודה הזאת החברה כבר מצליחה לשכנע.

את מערכת השיקולים הכוללת שאינטל-מובילאיי מפתחת היא מכנה "בטיחות מבוססת אחריות" (RSS). המטרה שלה היא לא רק לאמץ אותה בעצמה, לשפר ולשכלל אותה כל העת, אלא גם להפוך אותה לסטנדרט בתעשייה. שהרי מה תועיל לאינטל מערכת נהיגה מושלמת, אם המכונית האוטונומית של אחד המתחרים תתנגש פעמיים בקיר ופעם אחת בהולך רגל? הרגולציה תסגור את הענף כולו ושלום למיליארדים. גם מצב "מתון" יותר, שבו החברה לא קובעת את הסטנדרט בתעשייה, בעייתי כמובן מבחינתה.

"באנו ואמרנו לתעשייה 'היי בואו נדבר על זה'", אומר ווסט, "אנחנו מאמינים שבטיחות כלי הרכב חשובה יותר מההצלחה של חברה זו או אחרת. האתגר הוא לפתור את הסוגיה יחד. בואו ניצור תקן שכולנו יכולים לעמוד בו, שהרגולטורים יכולים לבחון ושהצרכנים יכולים להשתכנע ממנו. המאמץ שאנחנו עושים אמור לשרת את החברה שלנו, אבל גם את שאר התעשייה".

הטאבלט שהרגיע את הנוסעים

לא רק עם קשיים טכניים אובייקטיביים צריך ווסט להתמודד, אלא גם עם התחושות האנושיות הסובייקטיביות. "כשאתה קורא במילון מה ההגדרה של 'אמון', אתה רואה תיאור של אופי וחוזק ואמת. אלה מילים שלא משתמשים בהן בדרך כלל בתכנון מכונות והשאלה היא איך אתה עושה את זה כאן, כשזה נחוץ".

כדי לבדוק מה יעורר את אמון הצרכנים במכונית האוטונומית ערכה אינטל בשנה שעברה ניסוי בהשתתפות נוסעים רגילים, לא אמיצים במיוחד או חובבי טכנולוגיה, וגם ללא רקע מוקדם בנהיגה אוטונומית. הושיבו אותם במושב האחורי של המכונית, כשליד ההגה האוטומטי יושב נהג גיבוי, ליתר ביטחון ולמניעת פאשלות.

"אחרי הנסיעה ראיינו אותם, וכולם היו מוטרדים בשאלות הנוגעות לאמינות המכונית והטכנולוגיה," אומר ווסט. בסיבוב הבא עברו הנוסעים חוויה קצת שונה: המכונית דיברה לאורך כל הדרך, הסבירה את תנאי הדרך ואת הפעולות שבכוונתה לבצע מבעוד מועד. "בסוף הנסיעה הזו, כולם היו נינוחים ומשוכנעים שהטכנולוגיה בטוחה. כלומר, הדרך ליצור אמון עוברת בשקיפות ובתקשורת פתוחה".

השלב הזה בניסוי, מספר ווסט, יצר כמה סיטואציות מעניינות. בהתחלה הנוסעים ניסו לדבר עם המכונית המפטפטת ולתת לה הנחיות: "קחי ימינה ברמזור הבא", לדוגמה. אלא שבאינטל עדיין לא פיתחו יכולת תקשורת דו-כיוונית. ההמשך היה מפתיע: אחרי דקות ארוכות שבהן המכונית הסבירה לנוסעים מה היא רואה ומה בכוונתה לעשות כעת, הם ביקשו שמישהו כבר ישתיק אותה. הם כבר סמכו על יכולתה להוביל אותם בבטחה, ולא רצו הסברים נוספים.

מרכיב חשוב נוסף היה מתן תחושת שליטה לנוסעים, שנוטים להיבהל כשהם יושבים במושב האחורי של מכונית שנוהגת בעצמה. בניסוי חילקו לנוסעים טאבלטים שבאמצעותם אפשר לעקוב אחר התקדמות הנסיעה והחלטות הנהיגה - וגם לעצור את המכונית בכל רגע. התוצאה הייתה שהם חשו בטוחים ורגועים יותר. "פתאום אנשים קולטים שהמכונית האוטונומית היא דבר מדהים, שהם יכולים לשלוח בה את הילדים לבית הספר ולהרוויח שעתיים מהחיים כל יום. המוח האנושי משנה גישה ויוצר אמון מאוד מהר".

הסינים מרימים את הכפפה

בינתיים יוזמת ה-RSS של אינטל משתרכת לאיטה. חודשים ארוכים לא הורמה הכפפה, אבל בתחילת החודש הענקית הסינית באידו הודיעה על אימוץ הגישה, ושילובה בתוכנית הרכב האוטונומי "אפולו" שהיא מפתחת בהשקעה של מיליארדי דולרים. נוסף על כך, באידו תשלב את טכנולוגיית הראייה ההיקפית של מובילאיי במערכת שלה.

מרכזיותה של באידו בתעשיית הרכב בסין הופכת את ההכרזה הזו לחשובה. שיתוף הפעולה שלה עם דיימלר, פורד וגם מיקרוסופט הופכת אותה לחשובה אפילו יותר. "יהיו שיתופי פעולה נוספים בקרוב," מבטיח ווסט, "אנחנו מדברים עם גורמי ממשל בארה"ב, סין ומדינות באירופה, וכולם מתמודדים עם השאלה הזו".

ווסט אומר כי בארה"ב, השוק החשוב ביותר מבחינת החברה, יש סימנים מעודדים מצד הרגולטור. רשות הבטיחות בדרכים המהירות (NHTSA) פרסמה הצעה למטריצת בטיחות מבוססת מדידה, שתאפשר לדעת בכל רגע שהנהיגה המתבצעת בטוחה. לדברי ווסט גישת ה-RSS עונה בדיוק על מפרט ההצעה הזו.

אך למרות האופטימיות של ווסט, צריך לזכור שלוחות הזמנים של הרכב האוטונומי עדיין איטיים. מקובל בענף לחלק את יכולות הנהיגה לחמש דרגות: 1 היא נהיגה בידי בן אנוש שהאלגוריתם רק מסייע לו, ו-5 - אוטונומית לחלוטין. כיום אנחנו בשלב 2 (אוטומציה חלקית), ובתוך כשלוש שנים צפויים להגיע כלי רכב אוטונומיים ברמה 3, שכבר יוכלו לנסוע עצמאית בדרכים בינעירוניות מהירות, כל עוד יש במכונית נהג שמסוגל להשתלט עליה מיד.

שלבים 4 ו-5 הם עדיין מעבר לאופק מבחינתה של התעשייה, ומומחים מעריכים שנגיע אליהם רק בסביבות 2030. יש עדיין כברת דרך ארוכה של פיתוח וגם של יצירת אמון בטכנולוגיה עד שבאמת נוכל לשלוח בה את הילדים לבית הספר. ייתכן שאלה בכלל יהיו הנכדים. 

רוצה להשאר מעודכן/ת בנושא גלובס טק?
✓ הרישום בוצע בהצלחה!
צרו איתנו קשר *5988