גלובס - עיתון העסקים של ישראלאתר נגיש

רוסיה כמורדור

מלחמת הבוטים בגוגל היא משל למאבקים על שליטה בעולם

בינה מלאכותית /  שאטרסטוק
בינה מלאכותית / שאטרסטוק

לפני שנה וקצת אירע דבר מוזר באינטרנט: גוגל טרנסלייטור, המתרגם האוטומטי של גוגל, החל לתרגם את המונח "פדרציה רוסית" ל"מורדור". למי שלא מכיר, "ממלכת מורדור, שבה הצל לא נרדם", היא מקום מושבו של שר האופל בעולם הפנטזיה של "שר הטבעות".

מה גרם למתרגם האוטומטי לקשר בין "הפדרציה הרוסית" לבין ממלכת האופל הדמיונית? ולפני שתחשבו שמדובר בדבר של מה בכך, נזכיר ש-500 מיליון אנשים עושים שימוש בשירותי התרגום של גוגל. שירותי התרגום של גוגל מאפשרים לאנשים ממדינות שונות לשתף פעולה ולעשות עסקים ביחד.

אבל אם בשיתופי-פעולה בינלאומיים עסקינן, רוב הרוסים לא יעריכו את העובדה שהם מזוהים כאורקים (יצורים מפלצתיים) וטרולים (מעצבנים) בעיני גוגל. אז מה קרה כאן?

שירות התרגום של גוגל מהווה דוגמה לבינה המלאכותית החדשה: כזו שאינה מתוכנתת על ידי בלשנים בכירים, שמקנים לה כללים ברורים להבנת השפה, אלא מתוכננת כישות לומדת, העוברת על מידע רב ומזהה בעצמה את דפוסי השפה בדומה לילד אנושי. המערכת עוברת על פורומים, עמודי רשת ומסמכים בכל השפות, ומגיעה למסקנות בנוגע לדרך התרגום המתאימה ביותר עבור כל מילה ומילה. כמו כל ילד, היא לומדת מהעולם שמסביבה.

אבל מה קורה אם העולם מנסה לרמות אותה?

במקרה של הפדרציה הרוסית, נראה שבני-האדם אכן הצליחו לרמות את המתרגם האוטומטי. גולשים אוקראינים רבים החלו לכנות את הפדרציה הרוסית בשם הגנאי "מורדור", בעקבות מלחמת רוסיה-אוקראינה ב-2014. המתרגם האוטומטי של גוגל ראה, למד והבין בהתאם: הפדרציה הרוסית הפכה לממלכת השחור, ושם המשפחה של שר החוץ של רוסיה תורגם ל"סוס קטן עצוב".

הפרשייה מעלה שאלות פילוסופיות וחברתיות מרתקות. ניתן לטעון ובצדק, שהמתרגם האוטומטי של גוגל מנסה ללמוד את החברה האנושית מתוך דפוסי הדיבור והכתיבה שלה. אם לא ניתן לו לעשות כן, אנו למעשה מקבעים את השפה הקיימת כיום - ואת הערכים המוטמעים בה - וכופים אותם על דור העתיד. ידוע לכול כי השפה האנושית היא דינמית ומשתנה כל העת, כדי לאמץ רעיונות ומושגים חדשים. למשל, המונח "לגגל" הוא תוצר של השתנות טבעית של השפה. כך גם "ג'מבו", שהיה במקור פיל עצום שריתק את תושבי העולם המערבי; והמילה Nimrod, שרכשה באמריקה משמעות חדשה כ"דביל". כנראה, משום שבאגס באני (הארנב) השתמש בה תכופות כתיאור גנאי לאלמר פאד (צייד הארנבים).

השאלה היא - האם השפה באמת משתנה מעצמה, כתוצאה מכך שמיליוני אנשים מתחילים מרצונם להתייחס לרוסיה כ"מורדור"? לאו דווקא. המתרגם האוטומטי של גוגל מסתמך גם על תוצרי עבודתם של בוטים - אלגוריתמים פשוטים יחסית, המסוגלים לכתוב או לערוך תוכן באינטרנט. בוטים כאלו קיימים בכל מקום. לפי חלק מההערכות, ב-2009 בוטים הפיקו רבע מכל הציוצים בטוויטר, 'צפו ביותר ממחצית מכל המודעות באינטרנט ב-2013, וביצעו עד למחצית מכל העריכות בוויקיפדיה.

המתרגם האוטומטי של גוגל לומד מתוצרי כל הבוטים האלו, ומי שמתכנת בוט להפיץ מידע מסוים, יכול להשפיע בדרך זו על השיח ברשת ועל דרך הדיון והשפה. הבוטים האלו אפילו נלחמים זה בזה כדי למשוך את תשומת לבנו או לתקן 'טעויות' של בוטים אחרים, כפי שהודגם במחקר על ויקיפדיה מהשנה האחרונה.

תסריטאי המדע הבדיוני אוהבים לספר לנו על מלחמות רובוטים בבני-אדם, ומלחמות רובוטים ברובוטים. הקרבות האלו החלו בעשור האחרון, אלא ששדה הקרב אינו בעולם הפיזי, אלא בזירת הידע האנושית. לרובוטים המודרניים הללו אין גוף משלהם. הם אלגוריתמים פשוטים שמתחרים זה בזה כדי לעצב את הידע שלנו על העולם.

לא אתפלא אם גם מאחורי פרשיית "מורדור" נגלה חבורה של מתכנתים שפיתחו בוטים המנסים להפיץ את המם החדש ולהשפיע בדרך זו על גוגל. הניסיון אולי משעשע, אבל הוא חושף תופעה עגומה. אם במקור נועדה רשת האינטרנט להיות שוק פתוח של רעיונות המתחרים זה בזה, הרי שהמציאות מראה לנו תוצאה אחרת: מי שמפעיל את הבוטים ביעילות הגבוהה ביותר, מצליח יותר להפיץ את עמדותיו. כפי שלמדנו לאחרונה מהצהרת טוויטר לקונגרס האמריקני, בוטים בחסות רוסיה סייעו להפיץ כמעט חצי-מיליון מציוציו של דונלד טראמפ במהלך מסע הבחירות, אך כמעט לא הפיצו את הציוצים של מתחרתו הילארי קלינטון.

התוצאה ברורה.

מי הפעיל את אותם בוטים? אותו אדם שעשה שימוש נרחב בבוטים בשנים האחרונות כדי להשפיע על הדיונים הציבוריים במדינות המערב, והוסיף ואמר בשנה האחרונה, כי "המדינה שתוביל בבינה המלאכותית, תשלוט בעולם".

יודעים מי זה? ולדימיר פוטין, כמובן, מנהיג הפדרציה הרוסית. אז בעצם, אולי מורדור אינה טעות אחרי הכול.

■ הכותב הוא עתידן, חוקר במרכז בלווטניק לחקר הסייבר באוניברסיטת תל אביב

עוד כתבות

דונלד טראמפ / צילום: Leah Millis, רויטרס

טראמפ: "בתוך זמן קצר אוכל להיות ראש הממשלה בישראל"

נשיא ארה"ב אמר ליהודים אורתודוכסים בניו-יורק: "אצלנו לפחות יודעים מי הבוס; הישראלים בוחרים שוב ושוב ואיש לא נבחר" ● "98% מהישראלים תומכים בי" ● מחיר הכרטיס לנאום – 25 אלף דולר

ערן יעקב/ צילום: רפי קוץ

ארבע חברות, 4 מיליארד שקל רווחים בקופה – כמה מס ישלמו?

בעלי השליטה בארבע חברות שצברו בקופתן 4 מיליארד שקל יידרשו לחלק כ-2 מיליארד שקל דיבידנד וימוסו במס גבוה בעקבות אי-חלוקת הרווחים - כך המליצה "וועדה מייעצת" למנהל רשות המסים בעקבות "מהפכת הדיבידנד הכפוי"

ג'רום פאואל בנאום הערב אחרי החלטת הריבית / צילום: Sarah Silbiger, רויטרס

פאואל: "ריבית שלילית לא מתאימה לכלכלה האמריקאית"

בעדות שנשא פאואל בסנאט, ציין יו"ר הפד לחיוב את שוק התעסוקה ובמיוחד את שיעור האבטלה הנמוך, שנמצא בשפל של 50 שנה ● לדבריו, "הסיכונים למערכת הפיננסית בארה"ב נותרו נמוכים"

יו"ר ההסתדרות, ארנון בר-דוד, מנכ"ל פלאפון, רן גוראון, יו"ר איגוד עובדי הסלולר, האינטרנט וההייטק, יקי חלוצי, יו"ר ועד עובדי פלאפון, יחיאל שמן / צילום: אגף הדוברות בהסתדרות

הסכם קיבוצי חדש בחברת פלאפון בתוקף עד יולי 2022: מה יקבלו העובדים?

ההסכם כולל מענק חתימה בסך 20 מיליון שקל, תוספת שכר של 7%, מענק שנתי, קופת מלגות ללימודים ועוד ● בנוסף תינתן לעובדים אפשרות לפרישה מרצון עם תנאים מיטיבים, יוגדלו תקציבי הרווחה, ויוארכו כל הטבות ההסכם הקיבוצי הקודם ● בסך-הכול כ-400 עובדים יעזבו את החברה

הבניין הבורסה בתל אביב/ צילום: איל יצהר

ת"א ננעלה ביציבות: טאואר צנחה, מטריקס זינקה ב-7%

מדד ת"א 90 עלה ב-0.3%, מנגד ת"א 35 ללא שינוי ● טאואר סיפקה תחזית הכנסות חלשה לרבעון הבא ● 

פורמולה מערכות זינקה ב-5.44% ● בסקטור הקנאביס טוגדר זינקה ב-15.6%

ניר ברקת, הליכוד / צילום: איל יצהר, גלובס

האם לשלושת תיקי נתניהו הפתוחים קדמו 16 תיקים שנסגרו?

מרוב רצון להוכיח שנטפלים לנתניהו, ניר ברקת תופר לו תיקים חדשים. פרמנו ● המשרוקית של גלובס

הסמל של גוגל כיום / צילום: רויטרס

גוגל נכנסת לבנקאות דיגיטלית: תציע חשבונות עובר ושב

מדובר בשיתוף פעולה של גוגל, בנק Citigroup ואיגוד אשראי קטן באוניברסיטת סטנפורד שיצא לפועל בשנה הבאה ● גוגל התחייבה שלא תמכור את המידע הפיננסי של המשתמשים בשירות

ראש הממשלה בנימין נתניהו ושר החוץ האמריקאי מייק פומפיאו / צילום: ג'ים יאנג, רויטרס

משרד החוץ האמריקאי: מוטרדים מאוד מהחלטת בית הדין של האיחוד האירופי

מחלקת המדינה בוושינגטון (המקבילה למשרד החוץ בארץ) שיגרה היום התייחסות רשמית להחלטת בית הדין האירופי בנוגע לסימון מוצרים ישראלים: "הנסיבות בנוגע לדרישת הסימון במקרה של יקב פסגות, כפי שהוצגו בפני בית המשפט, מראות שהיתה כאן הטיה נגד ישראל"

מהדורת החדשות של ערוץ 12, אמש / צילום: צילום מסך

מרתון שידורי הטלוויזיה: זה לא סיקור, זה דברור

כשהתותחים רועמים, כל ערוצי הטלוויזיה מתגייסים לדובר צה"ל ומשאירים את הצופים עם שידורים חוזרים • התקשורת לא מעזה לבקר את פעילויות הצבא ואת מדיניות הביטחון של ממשלת ישראל, כל ממשלה, באופן מהותי • על התקשורת להיות ביקורתית ועניינית יותר

פלורידה / צילום: shutterstock, שאטרסטוק

לא רק טראמפ עובר דירה: המיליארדרים של ניו יורק עוזבים אותה לטובת פלורידה

נשיא ארה"ב, שהכריז על אימוץ המדינה הדרומית כמדינת הבית שלו במקום ניו יורק, הוא רק האחרון ברשימה מתארכת של אנשי כספים ועסקים שכבר עשו זאת בזכות מדיניות המס הנוחה ומזג האוויר החם

פרופ' משה שהם, ד"ר קירה רדינסקי ויונתן עמיר, מקימי חברת דיאגנוסטיק רובוטיקס  / צילום: יח"צ

חברת דיאגנוסטיק רובוטיקס של קירה רדינסקי ומשה שהם גייסה 24 מיליון דולר

דיאגנוסטיק רובוטיקה עוסקת בניהול עומסים בבתי חולים ● בין משקיעי הסבב נמצאים כמה מן המשקיעים הבולטים בתחום הבריאות הדיגיטלית והמכשור הרפואי: קרן הון הסיכון של קבוצת אקסלמד בשיתוף עם מבטח שמיר, ד"ר קובי ויהודית ריכטר, דיויד ודניאל אריסון, קרן Maverick Ventures Israel, קרן Alpha Capital ומארק סיגל

רפי סער / צילום:  שלומי יוסף

תמ"א אאוט, בנייה מתחמית אין: נעצרו פרויקטי תמ"א בכפר-סבא

באופן תקדימי החליטה הוועדה המחוזית מרכז לעצור שני פרויקטים שכבר החלו בהליכי תכנון ● בכך קיבלה הוועדה את עמדת עיריית כפר-סבא שיש לקדם באזור בנייה מתחמית על פני פרויקטים נקודתיים ● היזם: "הסיכוי להפלת הפרויקט הולך וגדל"

מייקל היידן / צילום: יח"צ

הצלחה להנפקת חברת התרופות 89bio של יוצאי טבע; גייסה 85 מיליון דולר, והמניה זינקה

מניית 89bio עלתה 30% ומשקפת שווי חברה של 238 מיליון דולר ● 89bio, המפתחת תרופה לכבד שומני,  הוקמה על בסיס טכנולוגיה שפותחה במקור ע"י טבע

כחלון בביקור בפרויקט מחיר למשתכן בלוד /  צילום: יוסי אלוני

רמ"י החליטו להאריך את תוכנית מחיר למשתכן בעוד שנה

מנתונים של רמ"י עולה כי מאז הופעלה תוכנית מחיר למשתכן ב-2015 פורסמו מכרזי קרקע עבור 115,912 יח"ד ובוצעו עסקאות עבור קרקע לבניית 90,542 יח"ד

קניון גינדי TLV ת"א / צילום: כדיה לוי

משפחת גינדי יוצאת מהאופנה: במו"מ מתקדם למכירת חלקה בקניון TLV למוטי בן משה

בן משה מחזיק כיום במחצית ממניות הקניון המדשדש באמצעות רבוע כחול נדל"ן ● מכירת חלקה של משפחת גינדי, המחזיקה במחצית השנייה של הקניון ופרויקט המגורים הצמוד לו, צפויה להחזיר לידיה הלוואות בעלים של מאות מיליוני שקלים ● הבנקים המממנים כבר אישרו את העסקה

חיפוש נפט וגז/ צילום: Shutterstock א.ס.א.פ קריאייטיב

ניצחון לארגוני הסביבה: חיפוש פצלי שמן באורון ירד מסדר היום

מועצת מקרקעי ישראל דחתה את הדיון בנוגע לאישור חיפוש פצלי שמן באתר אורון בנגב למועד לא ידוע ● המשרד להגנת הסביבה: "לקידום העסקה יהיו השלכות שליליות על מדינת ישראל והמשק"

עו"ד רונית בכר, ערן יעקב, אילן פלטו, עו"ד ירון סבר וצבי סטפק / צילום: אסף לב

על מס ועל פנס: למה צריכות חברות ציבוריות להיערך

כנס המסים השנתי של איגוד החברות הציבוריות בשיתוף עם פרמת הייעוץ וראיית החשבון דלויט ועם משרד עוה"ד גולדפרב-זליגמן עסק הפעם בגירעון ובאתגרים שעומדים לקראת תקציב 2020

מאגר הגז הטבעי "לוויתן" / צילום: אלבטרוס

"שומרי הבית" לליצמן: "תקופת ההרצה של 'לוויתן' - סכנה לבריאות הציבור"

הבוקר פנתה ח"כ חיימוביץ' בשאילתה לסגן השר ליצמן בנושא היתר הפליטה לאסדת "לוויתן" בתקופת ההרצה, בה מתוכננים להיפלט לאוויר חומרים מזהמים בכמות הגדולה פי 2.5 מזה שיותר לאסדה לפלוט במשך שנת פעילות שלמה ● ליצמן: "לא מכיר את הנושא"

פאבל דורוב, מייסד טלגרם. המטבע הדיגיטלי התייקר עוד לפני שהונפק/ צילום: רויטרס

טלגרם כופרת באישומי ה-SEC שבגינם נדחתה הנפקת המטבע הדיגיטלי שלה

החברה, בעלת אפליקציית המסרים המיידיים, שביצעה בשנה שעברה מכירה מוקדמת של המטבע הדיגיטלי גרם בהיקף של 1.7 מיליארד דולר, מבקשת מבית המשפט בניו יורק להסיר את צו המניעה של רשות ניירות ערך האמריקאית, הטוענת כי המטבע נחשב לנייר ערך

הג’יהאד האסלאמי / צילום: Ibraheem Abu Mustafa, רויטרס

הג’יהאד האסלאמי הפלסטיני - ארגון קטן שמנסה לשחק בגדול

מאז עליית החמאס לשלטון ברצועת עזה, הג'יהאד האסלאמי אינו חדל לזנב בו, בפומבי ובחשאי, ישירות ובעקיפין • הג'יהאד עושה לחמאס את מה שעשה החמאס בשעתו לפתח, ואינו מאפשר לחמאס להשלים את המעבר מארגון צבאי לגוף פוליטי אזרחי שיכול לקדם מהלכים מדיניים ● דעה