צפו: הנזק שיכולה לגרום הטכנולוגיה שכובשת את העולם

יותר ויותר רובוטים ומכונות הופכים להיות חלק בלתי נפרד מחיינו ■ הם לומדים אותנו, יודעים מה אנחנו רוצים, מה אנחנו אוהבים ואיך למכור לנו דברים ■ מסתבר שלפעמים הם גם עושים טעויות, וזה יכול להסתיים רע מאוד

מחוץ לקופסא,רובוטים/ צילום: שאטרסטוק
מחוץ לקופסא,רובוטים/ צילום: שאטרסטוק

העולם שלנו הופך יותר ויותר לכזה המנוהל על ידי רובוטים. הם מנהלים לנו את הפרופיל באתרי היכרויות, מוכרים לנו רכב ואפילו יכולים לגרום לשער הפאונד לרדת. קיים היום צורך אמיתי בהכשרת אנשים שידעו לתווך בין מכונות לאנשים אחרת אי ההבנה הזאת עשוייה לגרום לאסונות של ממש.

כאשר נותנים למכונה לומדת יותר מדי חופש, או כאשר נותנים לאנשים הלא-נכונים להכשיר אותה, מקבלים מכונה לא צפויה, לא יעילה ולפעמים גזענית כך אומר ד"ר כריס בראוור, בעל חברת ייעוץ למדיה יצירתית ומייסד המרכז ליצירתיות וטכנולוגיות חברתיות באוניברסיטת גודסמית' בלונדון.

רובוטים ומכונות הולכים ומשתלטים על חיינו. אם זה מקרר שמזמין לעצמו אוכל, בתים חכמים ואפילו בתחום הרפואה תפקידיו של הרופא הולכים ומצטמצמים לטובת פרוטוקולים אוטומטים של טיפול. לא פעם כשנכנסים לאתר אינטרנט כזה או אחר מי שעומד מולנו בצד השני הוא בוט, תוכנה המיועדת לאסוף מידע או לבצע פעולות בדרך של חיקוי המשתמש. לכל בוט יש דרגות שונות של חופש", מספר ד"ר בראוור.

ניתן להגביל את הבוט באמצעות קביעת כללים קשיחים של מה מותר ומה אסור לו לעשות, אבל אז מקבלים בוט די מקובע, שלא נהנה מכל היתרונות של מכונה לומדת. לעומת זאת, אם 'פותחים' אותו יותר מדי, הבוט עלול לבצע הכללות שאנחנו לא אוהבים". לדוגמה? בוט של גוגל תייג אנשים מסוימים בתור "חיות" בטעות.

גם חלק נכבד מההודעות לעיתונות עובר פילטר כלשהו של מכונה לפני שהוא מגיע לעיניהם של עיתונאים. בעתיד, זו תהיה הנורמה. עיתונאי שלא יאפשר למכונה לברור עבורו את ההודעות לעיתונות אלא יתעקש לברור אותן בעצמו, לא יעמוד בתפוקה הנדרשת ממנו. לכן משרד יחסי הציבור יצטרך לכתוב את ההודעה כך שתתפוס את תשומת-לבה של מכונה ולא של עיתונאי. לאט לאט, בני האדם מאבדים שליטה בתהליך. הדבר נכון כמובן לא רק לעיתונאים, גם פרופילים באתרי היכרויות נשלטים כיום בידי מכונות שמחליטות אילו פרופילים יראו אילו גולשים באתר. כך יהיה גם בתחום חיפוש העבודה, כאשר מכונות ישדכו בין מעסיקים לקורות חיים, או בין יזמים למשקיעים.

לפעמים ההסתמכות הזאת על מכונות יכולה להיות גם מאוד מסוכנת. מכונות היו אחראיות, לדוגמה, לירידה של הפאונד אחרי אירועי הברקזיט בבריטניה. כשתחקרו את האירוע גילו שהירידה התרחשה בסמיכות זמנים לכתבה מסוימת שפורסמה ב'פייננשל טיימס'. איזה מידע היה בכתבה ששלח את המכונות למכור? בעולם שבו מכונות אחראיות על 90% מהמסחר, הן פשוט לא מחכות שאנחנו, בני האדם, ניתן להן אישור.

האירוע של מכירת הפאונד, אומר בראוור, העלה את הצורך בקיומם של "מומחים ליחסי מכונה", תחום חדש שנועד להכשיר אנשים שתפקידם לנסות לנבא כיצד מהלכים מסוימים שעושה אדם ישפיעו על אופן פעולתן של מכונות שמקבלות החלטות בעניינו.

צרו איתנו קשר *5988