"החברה שלנו הסלילה אנשים לעבודה של מכונות"

ד"ר כריס בראוור מאמין שמחשבים ישחררו בני אדם מהצורך לבצע עבודה של מכונות, אבל גם מזהיר ממכונות שמקבלות החלטות במקומנו בלי להסביר למה

תתחילו להתחנף למכונה / צילום: רויטרס
תתחילו להתחנף למכונה / צילום: רויטרס

"סליחה על העיכוב", מתנצל ד"ר כריס בראוור, "תכננתי בוט עבור בנק, והוא השתגע קצת. היינו צריכים לתקן אותו".

- איך בוט משתגע?

"כאשר נותנים למכונה לומדת יותר מדי חופש, או כאשר נותנים לאנשים הלא-נכונים להכשיר אותה, מקבלים מכונה לא צפויה, לא יעילה, לפעמים גזענית".

בהצהרה הזאת נפתחה הפגישה עם בראוור, בעל חברת ייעוץ למדיה יצירתית ומייסד המרכז ליצירתיות וטכנולוגיות חברתיות באוניברסיטת גודסמית', לונדון. והוא מיד מסביר: "הרי בוט הוא בעצם תוכנה שלומדת איך להגיב מתוך אינטראקציות עם הסביבה. מלמדים אותה איך להגיב למספר מסוים של סיטואציות, ולאחר מכן היא אמורה להקיש מן הדוגמאות הללו ולהגיב לסיטואציות חדשות. היא מקבלת פיבדק על החלטותיה - אם צדקה - ובהתאם לו היא משפרת את החלטתה בפעם הבאה".

הדבר דומה לאופן שבו מלמדים ילד לזהות כלב, כך שההגדרה תכלול את כל סוגי הכלבים אבל לא את כל החיות האחרות שיש להן ארבע רגליים וזנב. תחילה מראים לו כלב ואומרים לו "זה כלב", ואחר-כך מאפשרים לו להצביע ברחוב על כלבים, חתולים וחמוסים, ורק כשהוא מצביע נכון על כלב, מאשרים לו שאכן בחר נכון, והיכולת שלו לזהות כלב משתפרת. 

כשהפאונד ירד בלי סיבה של ממש

"לכל בוט יש דרגות שונות של חופש", אומר בראוור, "ניתן להגביל אותו באמצעות קביעת כללים קשיחים רבים מראש - מה מותר ומה אסור לו לעשות, אבל אז מקבלים בוט די מקובע, שלא נהנה מכל היתרונות של מכונה לומדת. לעומת זאת, אם 'פותחים' אותו יותר מדי, הבוט עלול לבצע הכללות שאנחנו לא אוהבים". דוגמה? כך בוט של גוגל תייג אנשים מסוימים בתור "חיות" בטעות.

"עלינו גם להחליט מי רשאי ללמד את הבוט", ממשיך בראוור. "אם מאפשרים לקהילה שלמה של משתתפים להכשיר את הבוט ולתת לו פידבק, מקבלים בוט מאוד יעיל ועוצמתי בתוך זמן קצר ומאמץ מועט, אבל זה כמו לשלוח ילד לבית ספר שבו אתה לא יודע כלום על המורים ועל תוכנית הלימוד. לפעמים קהילה תלמד את הבוט דברים לא רצויים בטעות, ולפעמים היא עושה את זה בכוונה. כך קרה למשל כשמיקרוסופט רצתה ללמד את הבוט שלה לדבר כמו ילדה בת עשרה. היא שלחה אותו לשוחח עם ילדות אמיתיות, אבל מישהו ניצל את זה ובכוונה לימד את הבוט דברים איומים שהרסו אותו די מהר".

- האנשים מסוכנים למכונות, והמכונות לאנשים.

"לגמרי. מכונות היו אחראיות, לדוגמה, לירידה של הפאונד אחרי אירועי הברקזיט, והתהליך שבו הן עשו את זה עד היום לא לגמרי ברור לכל הנוגעים בעניין, אבל ברור שהפאונד ירד בחדות בלי שבני אנוש קיבלו החלטה אקטיבית שדווקא זו צריכה להיות התגובה של הפאונד לאירוע הברקזיט. פתאום יום אחד זה פשוט קרה, בגלל המכונות. רק כשתחקרו זאת, גילו שהירידה התרחשה בסמיכות זמנים לכתבה מסוימת שפורסמה ב'פייננשל טיימס'. אף אדם לא חשב שבכתבה הזאת נאמר משהו שלא היה ידוע קודם, אבל משום מה למכונות זה היה בגדר חדשות.

"המסתורין הוא בכך שאנחנו לא יודעים מה בכתבה הזאת גרם למכונות למכור את הפאונד דווקא באותו רגע, איזה מידע היה בכתבה או מה היה אופן הניסוח ששלח את המכונות למכור". בעולם שבו מכונות אחראיות על 90% מהמסחר, הן לא מחכות שאנחנו, בני האדם, ניתן להן אישור. הן קודם כול פועלות, ואפילו לא מסבירות אחר-כך". 

ד"ר כריס בראוור / צילום: יח"צ
 ד"ר כריס בראוור / צילום: יח"צ

מומחים חדשים ליחסים

האירוע הזה, אומר בראוור, העלה את הצורך בקיומם של "מומחים ליחסי מכונה", כלומר אנשים שתפקידם לנסות לנבא כיצד מהלכים מסוימים שעושה אדם ישפיעו על אופן פעולתן של מכונות שמקבלות החלטות בעניינו.

לדוגמה, היום בראוור עובד עם חברת יחסי ציבור. תפקידה של חברה כזאת היא להוציא הודעות לעיתונות שכתובות באופן שיתפסו את תשומת-לבם של קוראים בני אנוש, ובעיקר את תשומת-לבם של עיתונאים שתפקידם לעבד את הידיעות הללו ולהשתמש בהן כבסיס לכתבות. אבל זה הולך ומשתנה. היום חלק נכבד מההודעות לעיתונות עובר פילטר כלשהו של מכונה לפני שהוא מגיע לעיניהם של עיתונאים. בעתיד, זו תהיה הנורמה. "בגלל ריבוי המידע והצורך לעבד אותו במהירות על-אנושית, אנחנו חייבים להפקיד חלק ניכר מההחלטות שלנו בידי המכונות", אומר בראוור. "עיתונאי שלא יאפשר למכונה לברור עבורו את ההודעות לעיתונות אלא יתעקש לברור אותן בעצמו, לא יעמוד בתפוקה הנדרשת ממנו".

לכן משרד יחסי הציבור יצטרך לכתוב את ההודעה כך שתתפוס את תשומת-לבה של מכונה, לא של עיתונאי. בעתיד הקרוב, בני אדם ישברו את הראש כדי להבין את המכונה שקוראת את ההודעות כדי להתאים את ההודעות לטעמה. בהמשך, מכונה תהיה גם בצד הכותב, או לפחות זה שמעבד את ההודעה לשפה שמכונות אחרות אוהבות. לאט לאט, בני האדם מאבדים שליטה בתהליך, מאבדים אפילו את ההבנה שלו, את השקיפות.

הדבר נכון כמובן לא רק לעיתונאים. קחו לדוגמה פרופילים באתרי היכרויות. כבר היום מכונות הן שמחליטות אילו פרופילים יראו אילו גולשים באתר. בעתיד, יהיו יועצים שתפקידם יהיה לעזור לכם להציג פרופיל באתר כך שימצא חן בעיני מחשב, ולא בעיני אביר החלומות שלכם דווקא, כי אם לא תעשו זאת, הוא כלל לא יציג את הפרופיל בפני אותו אביר חלומות. אתם יכולים לקוות עד מחר שיופייכם המיוחד יזרח באור יקרות והאדם הנכון יזהה אותו, אבל לא בעידן החדש. אם זה לא עובר מכונה, זה לא ישיג לכם דייט.

כך יהיה גם בתחום חיפוש העבודה, כאשר מכונות ישדכו בין מעסיקים לקורות חיים, או בין יזמים למשקיעים. ואפילו כבר היום, כשאתם זורקים בדיחה לחלל האוויר (כלומר, לחלל פייסבוק או טוויטר) ואתם רוצים שמישהו ישמע אותה - קודם כול היא צריכה למצוא חן בעיני מכונה.

"אנחנו מדברים על עולם שכולו SEO, אופטימיזציה לטובת מנועי חיפוש. עד כה טייבנו את אתרי האינטרנט שלנו לטובתם. ממחר - את העולם כולו", אומר בראוור.

- אם נחזור לסיפור על "פיינשל טיימס" והברקזיט, הרי שנוסף על כך שמשרדי יחסי ציבור צריכים לדבר עם מכונות, גם על עיתונאים להבין שהם מדברים עם מכונות ושהכתבות שהם כותבים מפעילות מכונות רבות שיכולות לפעול לאו דווקא באופן רציונלי.

"נכון. עיתונאי צריך לדעת שמה שהוא כותב יכול להפעיל את המכונות ישירות, לעומת קוראים בני אדם, שאמורים להפעיל איזשהו שיקול דעת. יכול להיות שבעולם כזה, העיתונות יכולה להיות יותר משפיעה, אם זה מה שהיא רוצה".

- זה נשמע מפחיד.

"הייתי רוצה שבני אדם יתחילו לתכנן את המכונות כך שלפחות נוכל להבין בדיעבד מה הוביל אותן לקבל החלטה מסוימת. שיהיה תיעוד, שתהיה בכל מכונה גם מעין 'אנטי-מכונה' שתעקוב ותדווח מה קורה בזמן אמת ובני אדם יוכלו להתערב בכך ולהגיד לאלגוריתם 'ראיתי אותך, אלגוריתם! אני יודע מה ניסית לעשות!'. אני רוצה להאמין שב-2025, לא יהיו לנו כבר מקרים כמו הברקזיט, שבהם חודשים אחרי מעשה עדיין לא פענחנו מדוע המכונות פעלו כפי שפעלו".

מותר האדם על המכונה

העולם של 2025 יעמוד בלב אחד המושבים בוועידת ישראל לעסקים שתתקיים בדצמבר ובראוור ייקח בו חלק. כמי ששימש בעבר יועץ ב-PWC בתחום הטכנולוגיות המתפתחות והיום הוא בעל חברת ייעוץ משלו בתחום (הוא יועץ הבית של חברת Clarity Capita), הצורך להתחנף למכונות הוא רק אחד הניבויים שלו לעתיד הטכנולוגי שלנו.

לפרטים נוספים ולהרשמה לוועידת ישראל לעסקים 2016 >> www.globes.co.il/ibc2016

"האינטרנט של הדברים צפוי לשנות את תעשיית האנרגיה באופן מהותי", הוא אומר. "אנחנו רואים שינוי בכיוון של התאמת צריכת האנרגיה בצורה טובה הרבה יותר לצרכים האמיתיים של הצרכנים, ותמחור דיפרנציאלי של האנרגיה ברגעים שבהם היא נדירה. כך, למשל, המדיח יפעיל את עצמו בשעות שבהן האנרגיה היא הכי זולה וזמינה, והוא יידע מה הזמינות בזמן אמת כי כל המכשירים יהיו מחוברים, ולא רק לשם נוחות המשתמש בבית החכם. כמו כן, המדיח הזה יוכל לצרוך אנרגיה במהלך פעילותו מ-15 ספקים שונים, ולעבור ביניהם באופן אוטומטי. זה ישנה את השיווק של חברות האנרגיה מן היסוד, כי גם הן, כמו כולנו, ישווקו למכונה שלך ולא לך".

- האם המכונות ישאירו עבודה לבני אדם, מלבד כמנהלי יחסי מכונה, כמובן?

"תמיד ידענו שטכנולוגיה מגבירה את התפוקה. זה קורה בעיקר במקומות שבהם החלטות הן דטרמיניסטיות. למשל ברפואה, במקום שבו הטיפול נעשה במסגרת פרוטוקול ברור. בעולם כזה לכאורה אין עוד צורך ברופא, או לפחות לא ברופאים רבים. המעטים שיישארו יהיו המבקרים של הטכנולוגיה או שיפנו אליהם רק את המקרים הקשים, שמכונה לא יכולה לפתור. אפשר לראות שאכן הטכנולוגיה החדשה משפרת את התפוקה של עובדים. אינסטגראם הגיעה לשווי של מיליארד דולר עם 12 עובדים בלבד, והם הצליחו להגיע לאותו מספר אנשים כמו 'ניו יורק טיימס'.

"אנשים רואים את זה וחוששים, אבל אני אומר: בואו נסתכל על התקופה הזאת כעל היציאה שלנו מעבדות. אפשר לומר שעד היום, כיוון שלא הייתה לנו הטכנולוגיה שבאמת רצינו, יותר מדי בני אדם עבדו בחיקוי של מכונות, וזה הפחית מיכולתם להיות בני אדם. כעת ניתן למכונות להיות מכונות, ובני אדם ישגשגו בכל המקומות שבהם נדרשת יצירתיות שהיא מעבר ליכולת של מכונה. אנשים יפרחו כשיוכלו להפעיל חשיבה ביקורתית, חשיבה ערכית, חשיבה עם ניואנסים, כל בסיס המידע הטוב שיקבלו ממכונות. בני אדם יעשו את מה שהם תמיד נועדו לעשות".

- האם כל בני האדם מתאימים למקצועות כאלה? האם תהיה להם מספיק עבודה?

"אני לא מאמין שיש בני אדם שיכולים לחשוב רק כמו מכונה. החברה שלנו גרמה להם להתפתח כך, כשהסלילה אנשים לתוך עבודה של מכונות. אנחנו לומדים היום כיצד לשנות את החינוך ואת הסביבה הארגונית, כדי שכל בני האדם יוכלו לעשות עבודות של בני אדם".

כדי להוכיח את הנקודה, בחן בראוור אלגוריתם שכותב כתבות לעיתון מול עיתונאית בכירה ב"פייננשל טיימס" (לא זו שהפילה את הפאונד, אלא עיתונאית אחרת בשם שרה אוקונור). "המכונה הוציאה סיכום לא רע שכלל את כל העובדות החשובות, אבל היא פספסה את ה'סיפור', מה שכל הקוראים בני האנוש הסכימו שהוא הסיפור, אחרי שקראו את הכתבה של שרה. זה מה שעושה עיתונאי טוב - רואה את ההקשרים שלא נגישים מיד, שואל את השאלה הנכונה, משלים את החוסרים. זה, לפחות, יאפיין את העיתונאי של העתיד וכך יהיה בכל שאר המקצועות. מי שהיום מתעלה על כולם ביצירתיות במקצוע שלו, בין אם זה פוליטיקאי ובין אם זה רואה חשבון, יהיה הסמן הימני של איך ייראה המקצוע הזה בעתיד".

- וכל בני האדם יהיו חייבים לעבוד עם מכונות כדי להגיע לתפוקה המצופה מהם.

"מי שלא יעשה זאת, דווקא הוא יהיה מיותר, ולא יהיה לו מקום בעתיד ההיפר-פרודוקטיבי". 

צרו איתנו קשר *5988