גלובס - עיתון העסקים של ישראלאתר נגיש

למרות מאמצי פייסבוק, הטכנולוגיה שלה מתקשה באיתור כל תכני השנאה

לפי דוח שהזמינה פייסבוק, היא פועלת כלפי הטקסטים האלה בצורה "מאולתרת מדי" • בחברה משקיעים רבות בפיתוח בינה מלאכותית, אך יש קבוצות שעוברות מתחת לרדאר, בעיקר "חסידי עליונות לבנה"

שריל סנדברג / צילום: איל יצהר, גלובס
שריל סנדברג / צילום: איל יצהר, גלובס

דוח שהזמינה פייסבוק ממליץ לה לשפר את כלי הבינה המלאכותית שלה, כדי לזהות תכנים בעייתיים כמו טקסטים של שנאה. בכך מצביע הדוח על מגבלות הטכנולוגיה של פלטפורמת המדיה החברתית הגדולה בעולם.

הדוח בחן את הגישה של פייסבוק לזכויות אזרח ומתח עליה ביקורת כ"תגובתית ומאולתרת מדי", זאת למרות ההשקעות שפייסבוק ביצעה לכאורה בחיישניים מבוססי בינה מלאכותית ובאנליסטים אנושיים כדי לזהות ולהסיר תכנים מזיקים.

לפי הדוח, החברה דיווחה כי  נכון למרץ, הכלים שברשותה סייעו לזהות ולהסיר 89% מהטקסטים של השנאה לפני שהמשתמשים דיווחו עליהם, לעומת כ-65% מהטקסטים שנה לפני כן. אך חוקרים חיצוניים טוענים שעדיין אי אפשר למדוד כמה פוסטים שהועלו לפלטפורמה כה גדולה מתחמקים מהצנזורה הזו.

"אני יכול לגלוש לפייסבוק ברגע זה ולהיכנס לדפים מסוימים ולמצוא שם טונות של תכנים כאלו", אמרה פרופ' קייטלין קרלסון, חוקרת תקשורת באוניברסיטת סיאטל, שחקרה תוכני שנאה בפייסבוק. "אם הטכנולוגיה משתפרת כל כך, למה פייסבוק לא משתפרת באותה מידה?"

כלי הבינה המלאכותית של פייסבוק הם אולי חזקים, אבל הסרת התכנים הללו אינה קלה כמו לחיצה על כפתור המחיקה.

הכשרת כלי למידת מכונה בזיהוי תכנים פסולים כמו אנליסטים אנושיים דורשת זמן, מומחיות והמון נתונים לזיהוי המילים והוויזואליה הזו. קבוצות השנאה גם מתמחות יותר בעקיפת החיישנים האוטומטייים של הפלטפורמה. וישנם הממדים של פייסבוק - 2.6 מיליארד משתמשים שמפוצלים בין אינספור שפות ותרבויות - ועסקי הפרסום שמתבססים עליה.

מדען הבינה המלאכותית הראשי של פייסבוק, יאן לקאן, אמר בראיון במרץ שהוא עובד על פיתוח בינה מלאכותית שמפקחת על עצמה, שיכולה לחקות מאמץ אנושי לטפל בכל ההיקף של האתר. "למכונות הלמידה הנוכחיות אין שכל ישר. יש להן תפקוד מוגבל וצר מאוד", הוא הסביר. הוא הוסיף שהדוח שפורסם זה עתה "חשוב מאוד לפייסבוק כדי שהיא תוכל לאתר תוכני שנאה במאות שפות".

"צוות הארגונים המסוכנים" של פייסבוק, שמתמקד בטרוריסטים ובקבוצות שנאה מאורגנות נוספות, ממחיש את הגישה ההיברידית (משולבת) של החברה בתגובה לאתגרים הללו.

הצוות הזה, 350 עובדים בראשות מומחים למאבק בטרור, משתמש בשילוב של בדיקות "ידניות" וכלים אוטומטיים כדי להגביל את תפוצת המסרים של ארגוני ג'יהאד כמו דאעש. באמצעות " hashes", טביעות אצבע דיגיטליות של תוכן לזיהוי תעמולה בכוח בזמן אמת, הצוות גם אימן "מסווגים" של למידת מכונה לבדוק את הפוסטים כמו אנליסטים אנושיים.

אבל התברר שקשה יותר לכוון מחדש את הכלים האלו לזיהוי תכנים של חסידי עליונות לבנה, אומרים מומחים נגד טרור. התכנים הללו נוטים להית מפוצלים יותר ובעלי ניסוח אירוני שחופף לעתים קרובות נאומים פוליטיים של הימין. ממשלות מערביות גם לא מזהות קבוצות רבות כאלו כארגוני טרור, ובכך הן שוללות מחברות הטק את המפתח לנקוט נגדן פעולה.

הדינמיקות הללו הופכות את השיקולים אם להסיר תוכן ל"קשים הרבה יותר להשגה ולהשגה בזמן אמת", אמר ניקולאס רסמוסן, מנכ"ל פורום האינטרנט העולמי למניעת טרור, שהוא שותפות בין ממשלות וחברות טק כולל פייסבוק, טוויטר ומיקרוסופט. "זה האתגר שהחברות עומדות בפניו", אמר רסמוסן בראיון בחודש שעבר.

חוקרים אומרים שהתקפת הטרור של חסידי העליונות הלבנה בכרייסטצ'רץ' שבניו זילנד בשנה שעברה - שהועלתה לפייסבוק בסטרימינג חי ששותף בהרחבה - מדגימה את הסכנה של תוכן שנופל בין הכיסאות בפייסבוק.

החברה הכפילה מאז את ההתמקדות שלה בקבוצות ימין קיצוני, ופנתה יותר לבדיקות ממוקדות של אנליסטים אנושיים במקום כלי בינה מלאכותית, אומרים דוברים של פייסבוק. הטקטיקה הזו הניבה את ההסרה במרץ של Northwest Front, קבוצת שמטיפה למדינה אתנית לבנה באגן הצפון מערבי של האוקיינוס השקט, ולהסרה ביוני של רשת חשבונות שקשורה לתנועת הבוגאלו הרופפת (ימין קיצוני, לובשי חולצות בנוסח הוואי).

מנהלי פייסבוק מצביעים על יכולתה הגוברת להסיר תכנים כאלו מראש כהוכחה לשיפור המצב, ודוברת החברה מסרה ביום רביעי שצוות הארגונים המסוכנים מתמקד יותר ויותר בתחום זה. אך עדיין, פעילי זכויות אזרח ומפרסמים חידשו את הביקורת שלהם על גישת החברה לתכנים קיצוניים על רקע הדיון הלאומי בארה"ב על פשעי שנאה בעקבות הריגתו של השחור ג'ורג' פלויד במעצר משטרתי במיניאפוליס במאי.

"רשמנו התקדמות אמיתית עם השנים", כתבה סמנכ"לית התפעול שריל סנדברג בפוסט שלה ביום רביעי. "אבל העבודה הזו לעולם לא מסתיימת, ואנחנו יודעים איזו אחריות גדולה יש לפייסבוק להשתפר באיתור והסרה של תוכני שנאה". 

מה יהיה עם שיח השנאה בפייסבוק
● פייסבוק סופגת ביקורת רבה מצד פעילי זכויות אדם ומפרסמים על השיח הקיצוני ברשת החברתית
● בפייסבוק מצהירים כי הם מודעים לאחריות שלהם וכי הם משתפרים עם השנים
● הטכנולוגיה עדיין מוגבלת מבחינת היכולת שלה לעבוד באופן אוטומטי, במאות שפות

עוד כתבות

ייצור השבבים / צילום: Shutterstock, Golubovy

חברות השבבים הישראליות שמשלמות על הקשחת הכללים

ביטול רכישת חברת שבבים ישראלים על ידי הענקית האמריקאית קוואלקום מתווספת לנסיגת אינטל מרכישת טאואר אשתקד ● לפי מומחים, מדובר במגמה מתעצמת של הקשחת העמדות מצד רגולטורים בעולם ● "חברות צריכות להתחיל לחשוב מראש על אלטרנטיבות", הם אומרים

קרן כהן חזון, מנכ''לית ובעלת השליטה בתורפז / צילום: ששון משה

תורפז רוכשת יצרני חומרי טעם בלגית-גרמנית תמורת 48 מיליון דולר

תורפז צפויה לרכוש את קבוצת קלאריס & ווילך באמצעות חברת הבת שלה - פיט ● החברה מייצרת חומרי הגלם היחודיים לתחום הבשר והאפייה ומחזור המכירות שלה הסתכם ב-35.1 מיליון דולר ב-2023

ניסאן X-TRAIL / צילום: יח''צ

המכונית של ניסן שמוכיחה: שוק הבנזין עדיין חי ובועט

ניסאן X-TRAIL, הטורבו-בנזין החדשה של ניסאן, מוכיחה שגרסאות הבנזין לא אמרו את המילה האחרונה: היא זריזה, נוחה ומרווחת

מרכז תל אביב / צילום: טלי בוגדנובסקי

בעל דירה סירב לחתום על פרויקט תמ"א וזכה ב־320 אלף שקל נוספים

בעל דירה בפרויקט תמ"א 38 בת"א, שהוא גם בעלים של חלק מהחצר, ביקש פיצוי של 1.2 מיליון שקל ● המפקחת על המקרקעין קבעה בהסכמת הצדדים כי אכן מגיע לו פיצוי תמורת חתימתו

הסכם אינו נדרש כתנאי עבור זוגות במערכות יחסים כאלה ואחרות / צילום: Shutterstock, Viacheslav Lopatin

זוג הקפיא עוברים ואז נפרד. האם האישה תוכל להשתמש בהם?

כשלושה עשורים לאחר פרשת נחמני, בתי המשפט עדיין נאלצים לדון בתביעות בלתי אפשריות לגבי גורלם של עוברים מוקפאים ● מן הראוי היה לחייב כל זוג שפונה לבצע הפריה חוץ-גופית, לחתום על הסכם שמתייחס לאפשרות הריאלית של פרידה במהלך הזמן שחולף בין יצירת העוברים המוקפאים לבין השימוש בהם

משה ארבל, שר הפנים / צילום: מארק ישראל סלם - הג'רוזלם פוסט

בעקבות חשיפת גלובס: השר ארבל קורא לנתניהו לאפשר כניסת פועלי בניין פלסטינים לישראל

שר הפנים מציין במכתבו: "גוברות ההערכות כי אלפי פועלים פלסטיניים מיהודה ושומרון מועסקים שלא כדין בענף" ● הוא קורא לראש הממשלה לבחון הסדרה של הכנסת הפועלים לישראל, בין היתר על ידי בחינה פרטנית של כל פועל והגבלת גיל

אסדת קידוח ''לוויתן'' / צילום: אלבטרוס

במשרד האנרגיה בוחנים: הקמת מתקן להנזלת גז בהשקעה של 7 מיליארד דולר

חלק משמעותי מיצוא הגז של ישראל תלוי היום במצרים, ומתקן הנזלה יאפשר יצוא לרחבי העולם כדי לבזר את הסיכונים ● מי יממן את עלויות ההקמה האדירות?

קבינט המלחמה. ללא נשים במוקד קבלת ההחלטות / צילום: קובי גדעון-לע''מ

המלחמה חושפת את אוכלוסיית הנשים לסיכונים חריגים. איך אפשר להתמודד איתם?

מדור "המוניטור" של גלובס והמרכז להעצמת האזרח עוקב אחר ביצוע החלטות ממשלה משמעותיות ● הפעם, בשיתוף שדולת הנשים, על האתגרים שמציבה המלחמה בפני נשים ● נשים סובלות יותר מהיעדר ביטחון אישי וכלכלי - ובכל זאת הן לא נמצאות במוקד קבלת ההחלטות

בנק ההשקעות ג'יי. פי מורגן / צילום: Reuters, Mike Segar

האסטרטג של הבנק הגדול בעולם: "אתם לא תדעו כשהירידות יגיעו"

בבנק ג'יי פי מורגן שוב מזהירים מפני ירידות בשווקים, למרות שהתחזיות שלהם לא פוגעות כבר שנתיים וחצי ● האם הפעם התחזיות שלהם יתממשו? ומה הם ממליצים למשקיעים?

מישל וונטסוס, לשעבר מנכ''ל ביוג'ן / צילום: Quris

"ביוג'ן הייתה פסגת הקריירה שלי עד כה": המנכ"ל לשעבר מדבר על התוכניות לעתיד

מישל וונטסוס היה מנכ"ל ביוג'ן בתקופה שבה הייתה במוקד תשומת הלב בעקבות התרופה החדשנית שלה לאלצהיימר, אבל בסוף שילם בכיסאו על הכישלון שלה בשוק ● בראיון ל"גלובס", הוא מגיב על הביקורת שהושמעה נגדו, מספר אילו חברות מעניינות אותו עכשיו ומדבר על ההשקעה שלו בקיוריס הישראלית ● על המיזם החדש שהוא מקים בסינגפור, הוא עדיין לא מוכן לפרט

הפגנת חרדים נגד גיוס בני ישיבות,ירושלים / צילום: Reuters, Ammar Awad

מהתקציבים שייעצרו ועד לדיוני החירום באוצר: כל מה שכדאי לדעת על הצו הדרמטי בנוגע לחוק הגיוס

בהתאם לצו הביניים שהוציא בג"ץ, תקצוב הישיבות שתלמידיהן לא מתגייסים ייעצר כבר בשבוע הבא ● בשלב זה, התמיכה בכ-44 אלף תלמידי ישיבות צפויה להיעצר ● באגף החשב הכללי במשרד האוצר, שאמונים על ביצוע התשלומים מתקציב המדינה, מתכוונים ליישם את הצו במועד ● איך זה יעבוד? גלובס עושה סדר

צילום: ap, AP23024601572019_e5rllq

וול סטריט סגרה את הרבעון הראשון הטוב ביותר מאז 2019; מדד S&P 500 שבר שיא חדש

שיא חדש גם לדאו ג'ונס ● סיכום הרבעון הראשון באירופה: השווקים עלו בכ-7% ● בלומברג: "שוק הקקאו קורס", וולס פארגו: "עליית המחיר תגולגל אל הצרכנים" ● מייסד בורסת הקריפטו FTX נידון ל-25 שנות מאסר ● הצמיחה בארה"ב עמדה על 3.4%, יותר מהצפוי ● ג'יי.פי מורגן: "אתם לא תדעו כשהירידות יגיעו" ● מחר "יום שישי הטוב" אין מסחר בוול סטריט ובמדינות רבות אחרות

חיילים צרפתים מפטרלים בפריז / צילום: Reuters, Benoit Tessier

באירופה מתכוננים לאירוויזיון ואולימפיאדה תחת חשש כבד מחטיפות ופיגועים

אירוויזיון במאלמו, אליפות היורו בגרמניה ואולימפיאדה בפריז: שורת האירועים ההמוניים באירופה הקיץ, במקביל למלחמה בעזה והסיכון הגבוה לטרור איסלמי, מעלים את הכוננות בה לשיאים חדשים ● האמצעים שעל הפרק: שימוש ברחפנים והחזרת הנוכחות המשטרתית בגבולות

דם אברמוב בקמפיין בנק הפועלים / צילום: צילום מסך

בלי אסקפיזם ועם לוחם בשיקום, הפרסומת של בנק הפועלים היא הזכורה ביותר

פרסומת הבנק, שבה מככב הלוחם הפצוע אדם אברמוב, היא גם המושקעת ביותר עם כ–1.6 מיליון שקל ● מדירוג הזכורות והאהובות של גלובס וגיאוקרטוגרפיה עולה כי השבוע התברגו שתי פרסומות חדשות: מנורה מבטחים וטאצ' ● הפרסומת של ביטוח 9 היא האהודה ביותר גם השבוע

הורים לילדים שגילם עד שלוש יקבלו החל מתלוש השכר הקרוב תוספת של נקודות זיכוי / אילוסטרציה: Shutterstock

הטבת המס הגדולה שהבטיחה הממשלה נכנסה לתוקף. מה יקרה לנטו שלכם?

הורים לילדים שגילם עד שלוש יקבלו החל מתלוש השכר הקרוב תוספת של נקודות זיכוי, אשר תגדיל להם את ההכנסה הפנויה ● ואולם, מומחים טוענים כי הטבת המס לא תשפיע על מי שבאמת זקוק לה

אילוסטרציה: טלי בוגדנובסקי, צילום: שלומי יוסף

העליון מגדיר מחדש את גבולות שכר הטרחה לעורכי דין בתביעות ייצוגיות

פסק דין שאישר פשרה עם סופרגז ואמישראגז קבע תקדימים בעניין שכר טרחת עורכי דין בתביעות ייצוגיות ● בין השאר נקבע כי שר הטרחה יוגבל לפי מדרגות מקסימליות, ודרך היישום לתשלום הובהרה ● בשוק יש שמברכים על ההסדרה, ואולם אחרים מזהירים: תפגע בתמריץ להשיג פיצוי מרבי

מערכת ReDrone של אלביט / צילום: אלביט מערכות

הנקמה של פוטין בהודו, ומערכת יירוט הרחפנים החדשה של אלביט

אלביט הציגה ללקוחות אירופאיים את מערכת היירוט המתקדמת שלה, אלג'יריה מצאה מענה בסין מול עוצמת המל"טים מתוצרת ישראל, ארה"ב שמה את מבטחה בלייזר, והנקמה של פוטין בראש ממשלת הודו • השבוע בתעשיות הביטחוניות

ישראל תקפה בשדה התעופה בסוריה / צילום: נלקח מרשתות חברתיות לפי סעיף 27 א' לזכויות יוצרים

דיווח: לפחות 33 נהרגו בתקיפה בחלב, בהם אנשי חיזבאללה ואזרחים

בין ההרוגים בתקיפה בנמל התעופה בחלב ישנם גם חיילים מצבא אסד, דווח כי מערכות ההגנה האווירית הופעלו • מוקדם יותר נפצעו 2 בתקיפה שיוחסה לישראל באזור דמשק • דובר צה"ל עדכן כי בכיר חמאס חוסל בפעילות בבית החולים שיפא ● עדכונים בולטים

איציק וייץ, מנכ''ל קבוצת קרסו מוטורס / צילום: אלעד גוטמן

המספרים חושפים: כך הפך מותג בנזין סיני אלמוני למכרה הזהב של קבוצת קרסו

הכתבה הזו היתה הנצפית ביותר השבוע בגלובס ועל כן אנחנו מפרסמים אותה מחדש כשירות לקוראינו ● מהדוח השנתי של יבואנית הרכב עולה כי המותג צ'רי, שמכירותיו זינקו ב-2023, הקפיץ את נתח השוק שלה וסייע לה להציג רווח מכובד בתקופה קשה ● אבל ל"אסטרטגיה הסינית" הזו, שמשנה בצורה משמעותית את הפוקוס העסקי של הקבוצה, יש מחיר - ובראשו דריסת מותגים ותיקים

ביתן של קבוצת צ'אנגן בתערוכת מכוניות בסין / צילום: ap, Ng Han Guan

קבוצת הרכב השלישית בגודלה בסין בדרך לישראל

משלחת בכירה של צ'אנגן (Changan) סינית נערכת לייצא לישראל, הכניסה של החברה לישראל היא חלק ממהלך ההתרחבות הגלובלית שעליו הכריזה השנה ● מרצדס E קלאס והקרוסאובר של פורד: הדגמים החשמליים שבדרך ● השבוע בענף הרכב