מערכת הבחירות לכנסת ה־26 נכנסת להיסטוריה הישראלית כראשונה שמתנהלת תחת עידן הבינה המלאכותית. על רקע האתגרים והחששות החדשים, קבוצת חוקרים מהאוניברסיטה הפתוחה, בהובלת פרופ' ענת בן דוד מהמחלקה לסוציולוגיה, למדע המדינה ולתקשורת, הקימה את המיזם "זה ב־AI".
● מה עושים כשהנוכל נשמע כמו הבן? הפיתוח שיגן על קשישים מעוקץ AI
● כך תגלו מה הצ'אטבוט יודע עליכם
המיזם מנטר את חשבונות הרשת של המפלגות והמועמדים במטרה למפות את קשת השימושים בטכנולוגיה, החל מהוספת כתוביות ועד להמחזה של אירועים שלא התרחשו. כל תוכן חשוד נבחן באמצעות כלים ייעודיים ועובר אימות אנושי קפדני בטרם הוא מפורסם במאגר הציבורי.
החל מהיום (א'), המשרוקית של גלובס תארח את מיזם "זה ב־AI" לפינה חדשה: "ה־AI שמאחורי הבחירות". באמצעות מסד הנתונים של המיזם, מדי שבוע נסקרו את המגמות השבועיות של השימוש בבינה מלאכותית במסגרת תעמולת הבחירות. זאת, במטרה להציג לציבור את השימוש בבינה מלאכותית לאורך תעמולת הבחירות ובזמן אמת.
ליברמן ואיזנקוט רוכבים על סוס
דוגמא לשימוש ב־AI בקמפיין פוליטי ניתן למצוא בסרטון שפרסם השבוע ראש הממשלה בנימין נתניהו, בו נראים אביגדור ליברמן וגדי איזנקוט רוכבים על סוס טרויאני בדרכם אל שערי הממשלה, כשיאיר גולן ומנסור עבאס מסתתרים בתוכו. איש אינו אמור לחשוב שהאירוע התרחש. זוהי קריקטורה בתנועה, שנועדה לדחוס טענה שלמה לכמה שניות. אולם עבור החוקרים הסרטון ממחיש עד כמה השתנה ארגז הכלים של הקמפיינים, וכמה דק עלול להיות הגבול בין המחשה גלויה לתוכן שנראה כמו תיעוד מן המציאות.
"זאת מערכת הבחירות הראשונה בישראל אחרי הופעת כלי הבינה המלאכותית היוצרת", אומרת לגלובס פרופ' ענת בן דוד, חוקרת תקשורת דיגיטלית מהמחלקה לסוציולוגיה, למדע המדינה ולתקשורת באוניברסיטה הפתוחה. "היום אפשר לייצר תכנים בווידאו, בתמונה ובקול בהיקפים מאוד גדולים. אנחנו מנסים להבין אילו סוגי שימושים עושים בטכנולוגיה הזו בתעמולת הבחירות".
התשובה אינה מתחילה ונגמרת בדיפ פייק. AI יכולה לשמש להוספת כתוביות, ליצירת ג'ינגל או לשיפור המראה של מועמד - אלה שימושים טכניים ועריכתיים גרידא. בקצה השני נמצאת האפשרות להמחיז סיטואציה שלא קרתה, להציב אדם בהקשר בדוי או לגרום לדמות להיראות כאילו אמרה או עשתה דבר שלא התרחש.
איך ניתן לזהות אם תוכן פוליטי נוצר ב־AI?
תעמולת בחירות השתמשה מאז ומתמיד במניפולציות חזותיות. בן דוד מזכירה את כרזות העבר שבהן שמעון פרס הוצג כמי שיחלק את ירושלים. אלא שכעת אפשר להפוך את אותו מסר לסרטון חי, להניע דמויות, לחקות קול ולבנות סצנה משכנעת.
"בסרטון הסוס הטרויאני ברור שמדובר בהמחזה", אומרת בן דוד, "אבל באותה מידה אפשר לייצר סרטונים מאוד ריאליסטיים, לפרסם ממש סמוך לבחירות ולהשפיע, עוד לפני שיהיה זמן בכלל להבין אם מה שרואים קרה במציאות".
על רקע החשש הזה תוקן ביולי חוק הבחירות (דרכי תעמולה). החוק מחייב גילוי ברור ובולט בתעמולה שהיא בגדר "נחזות עמוקה" - כלומר תוכן חזותי או קולי שנראה כאילו תועד במקור, אף שנוצר או שונה באמצעים דיגיטליים. הכללים שקבע יו"ר ועדת הבחירות המרכזית, השופט נעם סולברג, מאפשרים לעשות זאת באמצעות הודעה או סמליל ייעודי. עם זאת, החובה אינה חלה על כל שימוש ב־AI, והוספת כתוביות או יצירת ג'ינגל, למשל, אינן בהכרח טעונות סימון.
כאן נכנס לתמונה מיזם "זה ב־AI". הוא אינו מסתפק בבדיקה אם המפלגות עמדו בחובת הסימון, ואינו מנסה לשמש בית דין לתעמולה. מטרתו לרכז את כל סוגי השימושים, לזהות דפוסים ולהציג מי משתמש בטכנולוגיה, כיצד וכמה. "אנחנו לא קובעים קביעה נורמטיבית שאומרת שבינה מלאכותית אינה טובה לבחירות", מדגישה בן דוד. "אנחנו עוזרים להבין איפה עושים בה שימוש ואיזה סוג שימוש נעשה".
המערכת מנטרת חשבונות של מפלגות ומועמדים בפייסבוק, באינסטגרם, ב־X ובטיקטוק. הפרסומים נאספים אוטומטית, והמדיה שמצורפת אליהם מנותחת בכמה שכבות. תחילה נבדק אם מופיע הסימון שקבעה ועדת הבחירות, אך היעדר הסמליל, מבהירה בן דוד, אינו מוכיח שנעשתה עבירה משום שהמחקר מאתר גם שימושים שאינם חייבים בסימון.
לאחר מכן נשלחים התכנים לשירותי זיהוי חיצוניים שמעריכים אם תמונה, סרטון או קול נוצרו באמצעות AI, ולעתים מנסים לזהות באיזה מודל. אלא שאין כלי שמספק תשובה ודאית, ולכן תוכן שקיבל הסתברות גבוהה עובר לשיפוט אנושי של בודקים בלתי תלויים. אם לפחות שניים מהם קובעים שנעשה שימוש ב־AI, הוא נכנס למאגר.
הבקרה האנושית נועדה להתמודד עם טעויות: מערכת זיהוי עלולה לסווג בטעות צילום מסך מכלי תקשורת כתמונה שנוצרה בבינה מלאכותית, ומנגד היא עלולה לפספס סרטון שרובו קטעי ראיון אותנטיים, אך בסופו נוסף ג'ינגל מג'ונרט. במקרה כזה הציון הטכנולוגי עשוי להיות נמוך דווקא מפני שהתוכן היברידי, והאדם הוא שצריך לזהות את הרכיב הסינתטי.
גם לאחר האימות, הופעתו של פריט באתר אינה אומרת שמדובר בדיפ פייק, בהטעיה או בהפרת חוק. המשמעות מצומצמת יותר - צוות המחקר קבע בוודאות גבוהה שנעשה בו שימוש כלשהו בבינה מלאכותית, שכן לעתים ה־AI אינו בפריים המרכזי אלא בכתוביות, בצליל או ברכיב קצר שהתווסף לחומר אותנטי.
כל פריט שאושר מתפרסם באתר, לצד דשבורד שמציג את שיעור תכני הבינה המלאכותית לפי מפלגה ומועמד. אפשר לעבור מגרף כללי לעמוד של פוליטיקאי מסוים, לעיין בגלריה או לפתוח טבלה של כלל הפריטים. כך אפשר להשוות בין שחקנים ולבחון אם השימוש בטכנולוגיה מתגבר סביב אירוע חדשותי, משבר או שלב בקמפיין.
לפי הדאטה שנאסף למשל, נכון להיום כ־66% מכלל תכני התעמולה שנאספו במיזם היו סרטוני וידאו. שיעור הפריטים שבהם זוהה שימוש ב־AI עדיין אינו גבוה במיוחד, אך בן דוד מזהירה שלא נכון להסיק שהשפעת הטכנולוגיה שולית. "תכני הווידאו עולים בלי סוף. כל ראיון ברדיו נגזר לחמישה פוסטים", היא אומרת, ומציינת כי גם רכיב AI קצר יכול להשתכפל בגרסאות שונות ולצבור נוכחות רחבה מהפרסום המקורי.
שקיפות מול מציאות משתנה
הסכנה, אם כן, אינה טמונה רק בסרטון מזויף אחד שיופץ ערב פתיחת הקלפיות, אלא בשינוי השפה הפוליטית. כשאפשר לייצר במהירות וריאציות של אותו מסר ולמחזר כל הופעה לעשרות יחידות תוכן, התעמולה נעשית זולה, מהירה ונגישה מאי־פעם. שאלת המחקר המרכזית היא כיצד ההצטברות הזאת משפיעה על אמון הבוחרים.
"זו כבר לא רק השאלה אם תמונה או סרטון נוצרו באמצעות בינה מלאכותית, אלא כיצד השימוש המצטבר בה משנה את תעמולת הבחירות", מסכמת בן דוד, "המטרה היא להעניק לציבור ולעיתונאים שכבת שקיפות נוספת בתקופה שבה ניתן לייצר ולהפיץ תוכן פוליטי במהירות ובהיקפים חסרי תקדים".
המחקר ממומן בידי מרכז הנשיא מאיר שמגר למשפט דיגיטלי וחדשנות ומרכז אדמונד י' ולילי ספרא לאתיקה באוניברסיטת תל אביב, ונתמך בידי The Bright Initiative של חברת Bright Data. כך או כך, אם הבינה המלאכותית כבר נכנסה ללב הקמפיין, החוקרים מבקשים לפחות לאפשר לציבור לראות בעיניים פקוחות כיצד היא פועלת בו.
