פרופיל אחד מצייץ, מאות מרטווטים תוך שנייה: כך פועלים החשבונות המזויפים לקראת הבחירות

בתחילת השבוע פרסם הפייק ריפורטר, מיזם שמאתר פעילות מזויפת ברשת, כי שורת חשבונות טוויטר שאינם "אמיתיים", כלומר מופעלים בידי בוטים או חשבונות מזויפים, עובדת בימים האחרונים בכל הכוח לטובת מחנה נתניהו. אותה רשת פרופילים, סבורים שם, מקדמת מסרים תעמולתיים עבור יאיר נתניהו, ינון מגל, גלית דיסטל, אבי שמחון ועוד "בסנכרון שלא סביר שהוא מקרי". כך לדוגמה, ב־8 באוגוסט צייץ בנימין נתניהו בשעה 13:47 כי הוא מבקש מכל מתפקדי הליכוד להגיע להצביע בפריימריז, ובתוך פחות משתי דקות כבר נראתה כל הקבוצה מרטווטת. כך קרה גם בציוצים של שאר חברי המחנה. כל זאת כדי לקדם תכנים ו"לתת זריקת פופולריות" לאותן אושיות, מציין הפייק ריפוטר ומוסיף: "נעתור לוועדת הבחירות כדי שתפעיל מיידית את סמכותה לעצור את העבירה על החוק לכאורה".

במפלגת יש עתיד כבר פנו ליועמ"שית בבקשה להורות על פתיחת חקירה פלילית בעניין. מהליכוד מסרו לגלובס בנוגע לטענות: "הליכוד לא מפעיל ולו בוט אחד ברשתות החברתיות".

זה אינו המקרה היחיד של חשד לפעילות תעמולתית שאינה אותנטית ברשת בחודשים האחרונים. ביולי חשף אותו פייק ריפורטר כי הקמפיין של אחת המועמדות בפריימריז בליכוד, עו"ד סוזי עוזסיני־ארניה, השתמש בבוטים כדי לקדם את מסריה בטוויטר. כך התגלו לא פחות מ־470 פרופילים שנפתחו במהלך יומיים, כולם עקבו זה אחר זה ואחר המועמדת וכיבדו אותה בלייקים. טוויטר הסירה חלק ניכר מהבוטים, ואילו עוזסיני־ארניה התנערה בתגובה ואמרה: "לי ולצוות הסושיאל והקמפיין אין כל דרך לדעת איזו חברה מקדמת איזה נושא ובכל מקרה הקידום הוחלף".

 לפיד. קמפיין מטעם מפלגת העבודה נגדו מ-2018 התאפיין בפעילות שנחשדה כאוטומטית / צילום: אוהד צויגנברג

הסיפורים האלה מצטרפים לעשרות גילויים החושפים שימוש בפרופילים מזויפים, רשתות השפעה מהונדסות ובוטים בפוליטיקה הישראלית. ב־2018 היה זה קמפיין הפייסבוק נגד יאיר לפיד, שפעל מטעם מפלגת העבודה, אז בראשות אבי גבאי, באמצעות פרופילים מזויפים והמוני לייקים המאפיינים התערבות אוטומטית (שהפעילה עבורם חברת ספוטלייט מחקרים פוליטיים). לפיד אגב היה משוכנע בתחילה כי הליכוד הוא שעומד מאחורי הקמפיין, אלא שגבאי אישר בזמנו שהמפלגה היא שאחראית לו וטען שלגיטימי להגיע לקהלים חדשים דרך המדיה הדיגיטלית.

לזה מצטרף תחקיר ידיעות אחרונות וניו יורק טיימס מ־2019, שגילה רשת ענק של פרופילים מזויפים ופעילות אוטומציה שפעלה למען הליכוד. במפלגה נטען בתגובה כי אין להם כל קשר לרשת.

והיה גם הקמפיין מבחירות 2019, שעודד את הציבור הערבי שלא להצביע. "הוא כנראה הופעל על ידי רשת השפעה (שתוכננה לצורך העניין בגיבוי אוטומציה - ש"ל ונ"ט) ולא היה פעילות אורגנית", אומר על כך פרופ' אור דונקלמן, מראשי המרכז לחקר סייבר משפט ומדיניות באוניברסיטת חיפה וממייסדי יוזמת פרטיות ישראל. "זיהינו את זה בכלים טכנולוגיים ומתודות על שימוש בבוטים בבחירות".

 בנימין נתניהו / צילום: דוברות הכנסת, נועם מושקוביץ

עוד חשף פייק ריפורטר במהלך 2021 רשת פרופילים מזויפים שקידמה את ח"כ הליכוד ניר ברקת. "הרשת הזאת", משחזר אחיה שץ, מנכ"ל פייק ריפורטר, "פעלה ביותר מ־3,000 קבוצת פייסבוק בישראל, רובן אזוטריות כמו קבוצת יד שנייה באשקלון, אמהות באזור הדרום, חובבי קריאה בשלומי. אבל התפוצה הייתה ענקית". הפרשה הזאת עניינה אפילו את ה־NBC, שכן הפרופילים הללו הפיצו בארה"ב את ניסיונותיו למנוע את הפתיחה מחדש של הקונסוליה האמריקאית במזרח ירושלים. ברקת מצדו טען ששום רשת כזאת לא פעלה מטעמו או בידיעתו.

אלא שזה רק קצה הקרחון כשמתקרבים רגעים גורליים כמו בחירות צמודות. חברת הסייבר CHEQ, מובילה עולמית בהגנה על חברות וציידת בוטים עבור לקוחותיה, זיהתה כחודש לפני סבב הבחירות הקודם, במרץ 2021, עלייה של 328% בפעילות בוטים, משתמשים מזויפים וכלי אוטומציה ברשת וירידה לממדים הקודמים מיד לאחר הבחירות. יש להניח כי מערכת הבחירות הנוכחית תספק מספרים דומים, אם לא גבוהים יותר. "כשאנחנו רואים קפיצה של יותר מ־300% בשימוש בבוטים בקורלציה לאירוע פוליטי גדול ומשמעותי", מסביר גיא טיטונוביץ', מנכ"ל CHEQ, "אנחנו מרגישים חובה להתריע".

"אין אדם שמתייג במהירות כזו"

אז איך נוצרים חשבונות מזויפים כאלה ומה זה בדיוק בוט? בוט הוא תוכנה שמבצעת פעולות אוטומטיות יזומות ברשת במטרות שונות. כשהחשבון עצמו פועל בעזרת שורות קוד הוא יוגדר כבוט. אבל כשמאחוריו עומד אדם, שפשוט מחזיק פרופיל מומצא או פרופיל של אדם אחר, הוא יוגדר חשבון מזויף, בעל התנהגות לא אותנטית.

למה משתמשים בבוטים? לפי דן וודס, ראש המודיעין העולמי של חברת אבטחת היישומים F5, מומחה לטרור סייבר וסוכן FBI לשעבר, יש כמה גורמים עיקריים: ניסיון השתלטות על חשבונות כדי להפיק רווחים, ובתוך זה התקפות סייבר; יצירה והפעלת חשבונות מזויפים כדי לתחזק זהויות סינתטיות; היפוך אלגוריתמים של תמחור ביטוחים; שימוש באוטומציה כדי לשחזר אתרי מסחר אלקטרוני; ולענייננו, יצירת חשבונות מזויפים במדיה חברתית להגברת ההשפעה על דעת הקהל.

 קלינטון וטראמפ לקראת בחירות 2016. הבוטים שלו צייצו פי שבעה משלה וזרעו שקרים / צילום: Associated Press, Mark Ralston

בוטים, מסביר שץ מפייק ריפורטר, "הם רק חלק מספקטרום רחב הרבה יותר של פעילות לא אותנטית המתחזה לאותנטית. רשתות שמטרתן להשפיע על הציבור בנויות בכל מיני דרכים, ובמרחב הפוליטי שכיחים יותר פרופילים מזויפים שיוצרים ומתפעלים בני אדם, מה שמכונה בובות גרב. אפשר למצוא רשתות שהם שילוב של בובות גרב וסוג של אוטומציה, ורק בקצה הספקטרום נמצא פעילות שהיא ברובה בוטית.

"בוטים הרבה פעמים נרכשים מרשתות ספאם, כלומר משכירי מקלדת. יש בוטים נפאלים, אינדונזיים ויפניים, והם יכולים להחליף ידיים. אפשר לקנות ערמה של פרופילים מזויפים שיצרו בנפאל אנשים אמיתיים, ואז למעשה הם יותר איכותיים מאשר הבוטים הגנריים, שגם יש להם בדרך כלל חיים קצרים".

לתופעה הזאת יש הרבה כוח. "הייתי לא מזמן בכנס בחו"ל", אומר פרופ' יאיר עמיחי המבורגר, ראש המרכז לחקר הפסיכולוגיה של האינטרנט באוניברסיטת רייכמן, "ובו פגשתי שרי חוץ מאירופה שאמרו שזה האיום הכי גדול למערב: אח גדול אינטרנטי שרוצה לזרוע כאוס וקיטוב בעולם המערבי יכול לעשות את זה באמצעות בוטים. ישנה תיאוריה שלפיה יש מדינות (כמו רוסיה, סין, איראן ואחרות - ש"ל ונ"ט) שמתכננות למוטט את המרקם החברתי ואת אמון הציבור במדינות אחרות באמצעות פייק ניוז".

 מתוך חשבון הטוויטר של פייק ריפורטר. רטוויטים בהפרשים של שניות ופרופילים ממחנה נתניהו שנפתחו בסנכרון מחשיד

בסוף 2021 לדוגמה התגלתה רשת פרופילים מזויפים איראנית שניסתה לחדור לשיח הישראלי דרך פנייה לקבוצות פוליטיות שונות. "במשך שעה אחת", אומר שץ, "כארבעה פרופילים תייגו 17 אלף חשבונות ישראליים בפוסט באינסטגרם. אין בן אנוש שמסוגל לתייג במהירות כזאת. הם תייגו ימנים, שמאלנים, דתיים, חילוניים, הכול במטרה שיריבו על פוסט אחד, והמטרה הייתה לייצר כאוס". ההשפעה, יש להודות, לא הייתה גדולה במיוחד. "לדעתי", אומר פרופ' דונקלמן, "זה היה כנראה ניסוי כלים".

ב־2016 גם הגיע המודיעין האמריקאי למסקנה שרוסיה השתמשה בבוטים בפייסבוק כדי להתערב בבחירות בארה"ב לטובת טראמפ.

ועדיין, גם על פי פייסבוק, רוב ניסיונות ההשפעה מהסוג הזה קורות בתוך המדינות. באותה מערכת בחירות, על פי פרסום של אוניברסיטת אוקספורד, הבוטים של טראמפ צייצו פי שבעה מהבוטים של קלינטון. "בקמפיין נגד הילרי קלינטון", אומר פרופ' המבורגר, "ראינו גם בוטים מתוחכמים, שחדרו לקבוצות של תומכי קלינטון, בנו בהדרגה פרופילים שנראו אמינים ואז זרעו בצורה מתוחכמת שקרים, כמו האמירה שהיא מתכוונת להעלות מסים".

טראמפ דהר על הסוסים האוטומטיים שלו גם במערכת הבחירות שאחריה, ב־2020, וגם כאשר התברר כי הפסיד את הבחירות לביידן. על פי מחקר של Disinfolab, ארגון אירופי ללא מטרות רווח שנועד להילחם בדיסאינפורמציה, כמות הבוטים שצויצו תחת ההאשטאג "הפסיקו את השקר" (הקמפיין שטען שתוצאות הבחירות בארה"ב מזויפות) עלתה במאות אחוזים בין 1 בינואר ל־6 בינואר, מועד ההסתערות המחרידה על הקפיטול, והתכווץ מחדש יום לאחר מכן.

"קשה לתפוס שחקנים בזירה"

איך זה שלבוטים יש כזו השפעה? "במציאות ישראלית שבה ל־90% מהבוגרים יש לפחות פרופיל אחד ברשתות חברתיות", אומר ד"ר טל מימרן, מנהל מחקר במרכז פדרמן לחקר הסייבר באוניברסיטה העברית וראש תוכנית אמנה חברתית בעידן הדיגיטלי בתכלית, "לבוטים יש השפעה רבה. מחצית מבני 40-27 צורכים חדשות רק דרך רשתות חברתיות. ידיעה שקרית אחת יכולה להיות מופצת באלפים".

"אנחנו חיים בעידן ההדהוד", אומר פרופ' המבורגר. "הולכים ומסתגרים בתוך קבוצות של אנשים שחושבים כמונו ושונאים את אלה שלא חושבים כמונו. האינטרנט הוא אחד הדברים שמאיצים את ההקצנה הזאת. אנחנו מחפשים אישוש לעמדות שלנו, חיזוק לזהות ולערך העצמי שלנו, ובוטים משחקים במגרש הזה בצורה חכמה, הם יוצרים גלים, לעתים צונאמי, של רגש".

"יש בוטים", אומרת ד"ר לירז מרגלית, חוקרת התנהגות בעידן הדיגיטלי ומחברת הספר "עיצוב התודעה", "שכל מטרתם להדהד עמדות ברשת. לפי מחקרים שעשינו, אנשים נוטים לשפוט אמינות של פוסט לפי מספר הלייקים שקיבל. ככל שיש יותר לייקים וציוצים או ציוצים מחדש של פוסט, אנשים מייחסים יותר משקל למידע. זה קורה בשל כמויות המידע העצומות שאנחנו נחשפים אליהן וחוסר היכולת לבדוק כל אחת מהן. מה שהמוח עושה זה לעבוד בקיצורי דרך.

"סוג שני של בוטים הם אלה שפונים אליך בצורה ישירה ומנסים להמיר את דעתך. הם בודקים שיש בסיס להיותך נתון להשפעה, כלומר שאתה טיפוס שצריך דחיפה קטנה, הם מיועדים ל'מתנדנדים'. הטכנולוגיה מאפשרת לעשות פרסונליזציה בצורה איכותית, להבין למשל לפי הפרופיל של אדם בפייסבוק אם הוא נוירוטי, מוחצן, מופנם, אם יש לו פתיחות לחוויה. על פי זה אפשר להתאים את המסר שנשלח אליו.

"למשל, אנשים בעלי נטייה לנוירוטיות מסתכלים על העולם בפסימית, ולכן מידע שלילי מקבל אצלם מקום הרבה יותר גבוה מחיובי. המסר אליהם יהיה בסגנון, אם לא תצביעו איקס, זה מה שיקרה. אנשים המדורגים גבוה בפתיחות לחוויה נוטים לראות את הטוב, וכדאי להעביר להם מסר חיובי: לצבוע בצבעים ורודים את התרחיש שיהיה אם יצביעו איקס.

"אני אישית מכירה שלושה גורמים מרכזיים המייעצים למפלגות. הם מקבלים מהן את רשימת המתנדנדים, ויוצרים להם השפעה אישית מותאמת. אני מכירה אותם כי הם מבקשים ממני את הידע הפסיכולוגי, ובוודאי איני היחידה".

אנחנו יודעים שזה משפיע על המתנדנדים?
"בהחלט. הפעילות של הבוטים המתוחכמים הייתה יעילה ב־54% מהמתנדנדים שאליהם הופנתה. עשינו מחקר כזה על קבוצה של 1,350 אנשים שלפני הבחירות אמרו שאינם יודעים למה להצביע, ואחרי הבחירות נקבו בשם המפלגה שמטעמה נערכה הפעילות. זה חד־משמעית יכול לשנות תוצאות של בחירות".

 ד''ר לירז מרגלית. ''54% מהמתנדנדים נקבו במפלגה מסוימת לאחר פעילות בוטים מוכוונת'' / צילום: דני ענבר

טיטונוביץ', שהחברה שלו CHEQ מנטרת נזקים, ובהם בוטים, בקצת יותר מ־100 אלף אתרים בעולם, מעיד: "אנחנו בהחלט רואים עליות וירידות בשימוש בבוטים סמוך לאירועים פוליטיים גדולים. אני לא יודע אם הבוט שאיתרתי הגיע מטעם ממשלת אוקראינה כדי לשנות את דעת הקהל העולמית. אבל אני יודע להגיד שזה בוט".

הוא יודע להגיד שמדובר בבוט ברגע שהבוט הזה מקליק על פרסומת של אחד מלקוחותיו ועובר לאתר שלה, שהוא מנטר. לדבריו, בעיית הבוטים שמקליקים על פרסומות גורמת להפסד של 30 מיליארד דולר בשנה בעולם, וגם אצלנו היא מחוללת לא מעט נזקים: CHEQ פרסמה לפני חודש מחקר שלפיו תעשיית הפרסום בישראל הפסידה בשנה האחרונה 260 מיליון שקל בגלל בוטים. "זה שני מבחינת פשע מאורגן רק לסחר בקוקאין", הוא אומר, "אבל רק גוף אחד נתבע בשל כך אי פעם".

כמה עולה לרכוש בוטים?
"זול מאוד. יש חוות קליקים במקומות כמו אפגניסטן. אם רוצים בוטים מתוחכמים, נגיד כאלה שיכולים לנהל שיחות פוליטיות, ובקנה מידה ממש גדול, מספיקים מאות או אלפי דולרים. זה פשע זול, שרשויות החוק לא יודעות להתמודד איתו. ממש הפשע המושלם".

לטענת וודס, אפשר לחסום פעילות אוטומטית כאשר מגלים אותה, אבל לתפוס את השחקנים הגדולים באמת כמעט בלתי אפשרי. "נדיר שאנחנו מוצאים מישהו, וזה קורה רק כשהוא עושה איזו טעות. שחקן שהוא מדינה או ארגון פשע לרוב לא עושה טעות, לכן יוצא לנו לתפוס בדרך כלל שחקנים קטנים".

יש חברות, אומר וודס, שמעדיפות לא להשקיע יותר מדי במלחמה בבוטים. אבל למדינות לא שמורה הזכות הזאת. "במקרה של השפעות על פוליטיקה המדינה צריכה להרים את הכפפה ולהילחם בבוטים כדי להגן על השיח, ממש כפי שהיא מגנה על תשתיות לאומיות אחרות. פגיעה בבחירות היא פגיעה בביטחון הלאומי.

"עם זאת, לא צריך לפסול כל אוטומטיזציה בקמפיין פוליטי. לגיטימי בעיניי לייצר אוטומציה של ציוץ מחדש של תוכן מסוים למשל. אבל כאשר האוטומציה מהדהדת חשבון שלא עומד מאחוריו אדם אמיתי - זה מאפשר להדהד קמפיין של דיסאינפורמציה".

"לרוקן את תקציב הפרסום"

בטוויטר סבורים שהתופעה לא גדולה כל כך, ושפחות מ־5% מהחשבונות הפעילים שלהם בלבד הם בוטים. אלא שהעסקה המדוברת מיולי השנה, שבה תכנן אילון מאסק לרכוש את טוויטר, הטילה בכך ספק גדול, לאחר שמאסק הודיע שהוא נסוג, גם בגלל שווייה שצנח, אבל גם כי מספרם האמיתי הוא 20% ואף גבוה יותר, כך טען באחד מציוציו.

"מהניסיון שלי אין סיכוי שהטענה של טוויטר נכונה", אומר וודס. "אני לא נמצא בשום רשת חברתית, אבל החלטתי ללמוד על זה ויצרתי חשבון טוויטר. הדבר הראשון שגיליתי הוא שיש למשתמשים שם אובססיה לגבי מספר העוקבים שלהם, ויש שוק שלם שבנוי על אספקת העוקבים הללו. ישבתי לי בוויקנד וכתבתי בוט, למטרות בדיקה כמובן, והצלחתי לייצר לא מעט חשבונות באופן אוטומטי, שהרשת לא עלתה עליהם. להערכתי יותר ממחצית החשבונות שלהם הם בוטים. ראינו במהלך העבודה שלנו רשתות חברתיות שבהן 80%-90% מהחשבונות הם בוטים. זה שומט את הלסת".

לא כולם עומדים מאחורי ההערכה של וודס, אבל כל התעשייה תמימת דעים שיש המון בוטים שם בחוץ, ושיש להם דרכים רבות לייצר נזק. "בוט יכול לרוקן את תקציב הפרסום של החברה המתחרה למשל", אומר טיטונוביץ', "או לשבש לחלוטין את האופטימיזציה האוטומטית בפרסום דיגיטלי, שעושות פלטפורמות כמו גוגל".

אלא שהיכולות הללו יכולות להיות מנוצלות גם בתקופת הבחירות: לרוקן למפלגה היריבה את תקציב הבחירות או לגרום לה למקד את הפרסום שלה בקהל הלא נכון וכך לאבד מהאפקטיביות של הקמפיין. בנסיבות האלה בהחלט אפשר לשאול: האם ייתכן שמערכת הבחירות תוכרע בידי רשתות השפעה מזויפות? או במילים אחרות, האם הבוטים יקבעו לנו את הבחירות הבאות?

אין מענה משפטי אמיתי

מה עושים? בדצמבר האחרון כבר התריע מבקר המדינה על "הנדסת בחירות בהיקפים נרחבים". לפני פיזור הכנסת האחרונה הבינו בסביבת יו"ר ועדת חוקה, גלעד קריב, שחייבים לקדם תיקון לחוק דרכי תעמולה וליישם את ההמלצות של הוועדה הציבורית מ־2018 בראשות השופטת בדימוס דורית בייניש.

כך, ביולי אושר הסעיף בחוק הבחירות שאמור להסדיר את השימוש בבוטים ואת הפעילות הממומנת סביב תוכן פוליטי ברשתות החברתיות. תיקון החוק קובע כי אם מועמד או מי מטעמו ישלם כסף עבור קידום תעמולה באינטרנט, עליו לפעול בשקיפות ולסמן זאת כדי שיהיה ברור שמדובר בתוכן לא אורגני. עם זאת, מומחים רבים חושבים שהחוק אינו בר־אכיפה, ומבינים שהמנגנון יכלול הלשנות של מפלגות על מתחרותיהן.

אלא שלמעט ההתייחסות הזאת בחוק אין מענה משפטי לקידום בוטים או תכנים לא אותנטיים ברשתות החברתיות. עם זאת, ישנה ועדה שיושבת במקביל - ועדת דוידי, שהקים שר המשפטים גדעון סער, שאמורה להתאים את המשפט לאתגרי החדשנות והאצת הטכנולוגיה. מה שבטוח, בעוד המלומדים יושבים, צבא הבוטים כבר מסתדר בשורות לקראת המשימה ששיאה יגיע ב־1 בנובמבר.

"צריך להכיר בכך שלרשתות יש יכולת טובה יותר לפקח מאשר למדינה", אומר ד"ר מימרן. "המדינה יכולה לקבוע מדיניות ולתת למפעילים יותר תחושת אחריות, אבל כדי שהרגולציה תהיה משמעותית צריך לבחון איך מתנהל ניטור התוכן. למשל, האם מנטרי התוכן בחברה מסוימת דוברי עברית, מכירים את השפה והסלנג או עובדים עם גוגל טרנסלייט?

"האחריות של הגופים עצמם צריכה לגדול. יש גופים שמנהלים את כיכר העיר החדשה, ומי שממודר ממנה, נחסם מהרשתות. לא רק זכות הביטוי שלו נפגעת, אלא גם זכותו להיבחר ולבחור. צריך להשית מנגנון של הגברת הדיווחים התקופתיים והדרישות התהליכיות ולהבחין בין חברות לפי סוג גודל ופעילות, ולשעת חירום כגון מלחמה, מגפה או בחירות המדינה צריכה להקים חמ"לים ולקחת תפקיד משמעותי יותר בפיקוח. אבל בזמן שלום כדאי לתת לספקיות התוכן את הכבוד המגיע להן, תחושה של שותפות דרך ולא כפייה. הרשתות הן לא האויב, הן שיקוף המציאות, והן זירה נחוצה. הטכנולוגיה מעצימה, לחיוב או לשלילה, את הרוח הציבורית".