ציוץ ויראלי בטוויטר, 22.5.23
כתבנו כאן לא מזמן על העובדה שהשיפור המרשים של כלי ה־AI (בינה מלאכותית) תורם גם ליכולות ההפצה של מידע כוזב, ומקשה - או לפחות עלול להקשות בעתיד - על זיהוי מידע כזה. בשבוע שעבר קיבלנו דוגמה מעניינת לכך. "מבזק: פיצוץ ליד הפנטגון", דיווח חשבון בשם whalechart שלו מאות אלפי עוקבים, וגם "וי כחול" שכיום כידוע כל משתמש יכול לרכוש. לדיווח צורף גם תצלום שעשוי להיראות משכנע ממבט ראשון של בניין שנראה כמו הפנטגון, שבסמוך לו מיתמר עשן שחור וסמיך. החשבון שהזכרנו לא היה היחיד שהפיץ את התמונה הזאת: על פי דיווח של AP גם חשבון הטוויטר של Russia Today, כלי תקשורת רשמי של הממשל הרוסי, דיווח על הפיצוץ (בהמשך הוסר הציוץ), וגם צייצנים רבים הצטרפו לחגיגה.
למרות ה"הוכחה" הוויזואלית המשכנעת, הטענה עצמה הופרכה די מהר. מחלקת הכיבוי וההצלה של העיר ארלינגטון שבווירג'יניה, בה שוכן הפנטגון - המטה הראשי של משרד ההגנה האמריקאי - הוציאה הודעה לרשתות החברתיות: "אין שום שריפה או תקרית בתחום הפנטגון או בסביבתו, ואין שום סכנה מיידית או מפגע לציבור". מי שנותרו ספקנים, היו יכולים להיעזר בבודקי העובדות של Newsweek, שבחנו את התמונה ומצאו שיש בה כמה דברים שלא מסתדרים. לדוגמה, הגדר בתמונה נראית לא אחידה, ומחליפה עיצוב וחומר ככל שמתקדמים איתה. גם העשן המיתמר לא יוצר צל על הסביבה שלו והוא גם לא יוצא מבעד לחרכי הגדר. בנוסף, הפיצוץ נראה "נקי מאוד" ללא ריקושטים שהגיעו לעצים או למדרכה. והכי חשוב: הבניין בכלל לא נראה כמו הפנטגון, ויש בו חלקי אדריכלות שאין במבנה האמיתי.
כל ה"כשלים" הללו מובילים את המומחים להעריך כי מדובר בתמונה שמקורה הוא אחד מכלי ה־AI שיכול לייצר תמונות לפי הזמנה. בארגון בדיקת העובדות Lead Stories ניצלו את האירוע הזה כדי לערוך ניסוי מעניין. הם השתמשו בכלי שנועד לשער מה הסיכוי שתמונה שנתקלתם בה נוצרה באמצעות בינה מלאכותית (AI), וגילו שבמקרה אחד התוכנה העריכה שהסיכוי שמדובר בתמונת AI עמד על רק כ־25%, ובמקרה אחר, על בסיס תמונה זהה לחלוטין, ההערכה קפצה לכ־90%. ההבדל היה טמון בחשבון הטוויטר שצייץ את התמונה בכל אחד מהמקרים. בינתיים, כאמור, ממילא אין צורך בכלים כאלה כדי לזהות את הזיוף, אבל בעתיד, הזהיר מומחה מאוניברסיטת וושינגטון שצוטט ב־AP, כשהטכנולוגיה הזאת תתקדם, המצב צפוי להיות מסובך יותר. "פשוט להסתמך על כלים ייעודיים או על פוסטים ברשתות החברתיות - זה לא יהיה מספיק".
המחשה מעניינת לכך קיבלנו כבר במקרה הנוכחי, שכאמור נחשב לפשוט יחסית לגילוי. התמונה המזויפת הופצה בסמוך לפתיחת המסחר בבורסה בארה"ב, ונראה כי זה הושפע מכך. מדד ה־S&P 500 ירד לזמן קצר ב־0.3%, ונכסים אחרים שנחשבים בטוחים טיפסו למשך זמן קצר. "רוב המסחר היום הוא אוטומטי", הסביר הכלכלן אדם קוביסי ל־AP. "מדובר באלגוריתמים למסחר מהיר שלמעשה לוקחים כותרות, ומעבדים את המידע שגלום בהן לכדי החלטות השקעה בקצבים של שברירי שניות". כלומר, לא רק התמונה המזויפת נעשתה "ללא מגע יד אדם", גם הירידות הקצרות וה"לא מוצדקות" שנגרמו בגללה.
תחקיר: אוריה בר־מאיר
לקריאה נוספת:
● הבדיקה של AP: תמונה מזויפת של פיצוץ בפנטגון עוררה עצבנות בשווקים
● הבדיקה של ניוזוויק: האם היה פיצוץ בפנטגון?
● הבדיקה של Lead Stories: תמונה של עשן ליד הפנטגון - אינה אמיתית