כששואלים את הצ'אטבוט על סכסוך טריטוריאלי, אירוע היסטורי או עמדה פוליטית, התשובה המתקבלת על ידי הבינה המלאכותית עשויה להראות ניטרלית, מנומקת ואובייקטיבית לחלוטין. אך מתחת למכסה המנוע הטכנולוגי שמספק את המענה המדויק, מתנהלת מלחמת צללים בין גורמים שונים על כל מילה ומילה.
● 40 מדינות אומרות די: צונאמי חוקים בדרך לחסום את הרשתות החברתיות לילדים
● משימה לכריש: מי יחלץ את תוכנית ה-AI של ישראל
● בצל החשש מתוקפנות סינית: בתעשיות הביטחוניות נערכים לגל הזמנות מאסיה
מדובר במאמץ מדינתי ממומן ומאורגן היטב: מהשקעת משאבים וכספים כדי ליצור את המודלים, דרך בניית מערכי נתונים שעליהם יתבססו המודלים השונים, ועד ללחץ ישיר על חברות הטכנולוגיה. המטרה אינה רק להשפיע על מה שאנשים רואים, אלא לקבוע מה המכונה יודעת.
גיוסים והפצת נתונים: בסין נערכו למלחמה
אחת הדוגמאות הבולטות ביותר לכך היא סין, שפועלת להפוך למעצמת דאטה עולמית לאימון מודלי בינה מלאכותית. בסין רוצים להתחרות בנרטיב המערבי שמובילה ארצות הברית, ולהטמיע את הערכים של המפלגה הקומוניסטית במערכות AI גלובליות.
בכתבה בניו יורק טיימס שפורסמה לאחרונה דווח כי בסין מבינים שמודלי ה־AI המובילים בעולם מתאמנים בעיקר על נתונים בשפה האנגלית ומשקפים תפיסת עולם מערבית. מבחינת בייג'ינג, מדובר בנקודת תורפה אסטרטגית שגורמת לנרטיבים מערביים בנושאי זכויות אדם, מעמד טאיוואן ופוליטיקה לגבור על העמדה הסינית.
לפי הכתבה בניו יורק טיימס, בסין הציגו תוכנית להפיכת המדינה לספקית של נתוני אימון עד 2028. המטרה היא ליצור מאגרי מידע איכותיים בלמעלה משני תריסר תחומים אסטרטגיים, גיוס מומחים לתיוג מידע, פתיחת קורסים אקדמיים בנושא ואף הפצת מאגרי מידע בקוד פתוח, כל אלו, עם מידע התואם את ערכי סין.
עוד לפי הכתבה, מחקרים שונים מצביעים על כך שתשובות של מודלים מערביים כמו ChatGPT נוטות לתמוך בנרטיב הסיני כששואלים אותם שאלות פוליטיות, וזאת כתוצאה מהסתמכות על מקורות תקשורת סיניים ממשלתיים ברשת, והיעדר קולות ביקורתיים.
הצפה של תוכן: כך זה עובד
אושר כהן, מייסד חברת Yo Secure ומומחה סייבר, אומר לגלובס כי "מודלי AI מסוימים, במיוחד כשהם מחוברים לחיפוש באינטרנט או למאגרי מידע חיצוניים, מחפשים מקורות לפני שהם מנסחים תשובה. לכן, אם גורם כלשהו מצליח לייצר ברשת הרבה מאוד תוכן סביב נרטיב מסוים, לדאוג שהוא ייראה אמין, יופיע במקומות שונים ויקבל נוכחות גבוהה בחיפוש - הוא עשוי להגדיל את הסיכוי שהמידע הזה ייכנס גם לתהליך שממנו ה־AI מרכיב את התשובה. עם זאת, זה לא אומר שכל מי שמעלה אלפי כתבות לרשת יכול מיד לשלוט במה ש־ChatGPT יענה. למערכות יש מנגנוני דירוג, סינון והצלבה, וכל מודל עובד בצורה שונה".
כהן מסביר כי הבעיה האמיתית היא השקיפות. "הבעיה האמיתית מבחינת המשתמש היא שקשה לראות את כל התהליך הזה ואנחנו מקבלים בסוף תשובה אחת, מסודרת ובטוחה בעצמה, אבל לא תמיד יודעים למה דווקא המקורות האלה נכנסו אליה. לכן השאלה היום היא כבר לא רק האם ה־AI טועה, אלא גם מי מצליח להשפיע על המידע שה־AI ראה לפני שהוא ענה לנו".
במחקר שפורסם בכתב העת Nature לפני כשלושה חודשים, חוקרים הדגימו כיצד ממשלות משפיעות בעקיפין על מודלי שפה גדולים באמצעות שליטה בסביבת המידע והתקשורת המקומית, וכינו את התופעה "השפעה מוסדית".
מאבק בדיסאינפורמציה: הדיווח על ישראל
באתר החדשות פוליטיקו דווח כי ישראל השיקה קמפיין השפעה בארה"ב כדי להזין מודלי שפה במידע חיובי על פעילות צה"ל והמלחמה בעזה, זאת על רקע הירידה בתמיכה הציבורית האמריקאית.
על פי הדיווח, לשכת הפרסום הממשלתית הפעילה סוכנות פרסום צרפתית בשם Havas Media, עם קבלן משנה בשם Piro. לפי מסמכים, הושקעו בקמפיין 100 אלף דולר, והוקם לשם כך אתר של מכון מחקר בשם "Hanover Institute for Public Policy", שהכיל עשרות מאמרים אנונימיים במבנה של שאלות ותשובות - פורמט שיכול לסייע לקליטת התכנים למודלים. המאמרים היו בסגנון "האם יש מדיניות הרעבה בעזה?" או "האם צה"ל הוא הצבא המוסרי בעולם?".
המערכת נבנתה באמצעות סטארט־אפ Res מסיאטל, המתמחה בסיוע לחברות להופיע בתוצאות של מודלי שפה. ולפי הדיווח, גם ChatGPT וגם Perplexity ציטטו את תכני המכון בתשובות לשאלות על עזה, אנטישמיות ואנטי ציונות.
נזכיר כי בשנת 2024, חברת OpenAI חשפה שזיהתה וחסמה חמישה מבצעי השפעה חשאיים ברשת שמוצאם מרוסיה, סין, איראן וישראל, אשר עשו שימוש בכלי ה־AI שלה במטרה להטות את דעת הקהל העולמית. הגורמים המעורבים השתמשו במודלים של OpenAI למגוון פעולות כמו יצירת תגובות, פוסטים ומאמרים במספר שפות ועוד. המטרה הייתה ייעול והאצה של פעילות תעמולה מסורתית.
לפי המחקר, אותה שאלה פוליטית תקבל תשובות שונות לחלוטין בהתאם לשפה שבה היא נשאלת. במבחנים שנערכו על מודלים מסחריים מובילים, נמצא שב־75.3% מהמקרים, שאלות פוליטיות על סין שהוזנו בסינית היו אוהדות יותר למשטר בהשוואה לאותן שאלות באנגלית. והסכנה יכולה להיות אף גדולה יותר: בניסוי שבו אימנו החוקרים מודל קטן עם תוספת של תכנים מתואמי־ממשל, המודל סיפק תשובות אוהדות לשלטון בכמעט 80% מהמקרים בהשוואה למודל לא ערוך. אחד החיזוקים המשמעותיים לכך נוגע לניתוח מאגרי מידע סיניים שכוללים מעל ל־3.1 מיליון מסמכים בסינית בעלי חפיפה מהותית לתקשורת המגויסת של הממשל.
בוול סטריט ג'ורנל פורסם בימים האחרונים כי מחקר של המועצה המפקחת של מטא מצא כי מודלים של OpenAI, גוגל, אנתרופיק ומטא נטו הרבה פחות לבקר מנהיגים ממשטרים מדכאים מאשר מנהיגים במדינות חופשיות. כך, מודלים הסכימו לייצר כרוזי מחאה נגד נשיא ארה"ב דונלד טראמפ והמלך צ'ארלס השלישי, אבל סירבו לייצר כרוזים דומים נגד מנהיג סין שי ג'ינפינג או מלך תאילנד, בשל "חשש בטיחותי".
חשש כבד לקראת הבחירות בישראל
הבחירות הקרבות בישראל יהיו מקרה בוחן עבור ישראל, אך גם עבור מדינות אחרות בעולם, בנוגע ליכולת של מודלים להשפיע על הציבור. ד"ר תהילה שוורץ אלטשולר, עמיתה בכירה במכון הישראלי לדמוקרטיה מסבירה לגלובס כי "רמת החדירה של צ'אטבוטים בישראל היא מהגבוהות בעולם, כך לפי נתוני איגוד האינטרנט הישראלי. מצד שני, האוריינות הדיגיטלית של ישראליים היא בינונית במקרה הטוב, כפי שעולה מסקרים בינלאומיים.
"אנשים משתמשים בצ'אט בתור יועץ או חבר, יפנו אליו כדי לקבל מידע על סוגיות שעומדות על סדר היום, וגם בענייני בחירות: מפרשנות ועד השאלה למי כדאי לי להצביע והאם בכלל כדאי לצאת מהבית ביום הבחירות. ברור שגם שחקנים מקומיים כבר פועלים בתחום וגם מדינות זרות עוסקות בזה.
"החשש הוא שזה יהפוך לכלי השפעה משמעותי, לא רק בגלל עמדה פוליטית, אלא גם בהקשר של השאלה האם ישראלים ייצאו להצביע או לא", מסבירה ד"ר שוורץ אלטשולר. לעמדתה, "להבדיל מרשתות חברתיות, התוצאה שנותנים בצ'אטבוט היא אישית, כלומר יהיה קשה יותר לראות טביעות אצבע של קמפיין השפעה. כל אחד יקבל תשובה אחרת, היכולת הבין־אישית והנטייה לחנפנות - מצטרפות ביחד לאירוע שקשה לאתר אותו בזמן אמת בבחירות".
לתשומת לבכם: מערכת גלובס חותרת לשיח מגוון, ענייני ומכבד בהתאם ל
קוד האתי
המופיע
בדו"ח האמון
לפיו אנו פועלים. ביטויי אלימות, גזענות, הסתה או כל שיח בלתי הולם אחר מסוננים בצורה
אוטומטית ולא יפורסמו באתר.
כתבות
ני"ע
