גלובס - עיתון העסקים של ישראלאתר נגיש

למרות מאמצי פייסבוק, הטכנולוגיה שלה מתקשה באיתור כל תכני השנאה

לפי דוח שהזמינה פייסבוק, היא פועלת כלפי הטקסטים האלה בצורה "מאולתרת מדי" • בחברה משקיעים רבות בפיתוח בינה מלאכותית, אך יש קבוצות שעוברות מתחת לרדאר, בעיקר "חסידי עליונות לבנה"

שריל סנדברג / צילום: איל יצהר, גלובס
שריל סנדברג / צילום: איל יצהר, גלובס

דוח שהזמינה פייסבוק ממליץ לה לשפר את כלי הבינה המלאכותית שלה, כדי לזהות תכנים בעייתיים כמו טקסטים של שנאה. בכך מצביע הדוח על מגבלות הטכנולוגיה של פלטפורמת המדיה החברתית הגדולה בעולם.

הדוח בחן את הגישה של פייסבוק לזכויות אזרח ומתח עליה ביקורת כ"תגובתית ומאולתרת מדי", זאת למרות ההשקעות שפייסבוק ביצעה לכאורה בחיישניים מבוססי בינה מלאכותית ובאנליסטים אנושיים כדי לזהות ולהסיר תכנים מזיקים.

לפי הדוח, החברה דיווחה כי  נכון למרץ, הכלים שברשותה סייעו לזהות ולהסיר 89% מהטקסטים של השנאה לפני שהמשתמשים דיווחו עליהם, לעומת כ-65% מהטקסטים שנה לפני כן. אך חוקרים חיצוניים טוענים שעדיין אי אפשר למדוד כמה פוסטים שהועלו לפלטפורמה כה גדולה מתחמקים מהצנזורה הזו.

"אני יכול לגלוש לפייסבוק ברגע זה ולהיכנס לדפים מסוימים ולמצוא שם טונות של תכנים כאלו", אמרה פרופ' קייטלין קרלסון, חוקרת תקשורת באוניברסיטת סיאטל, שחקרה תוכני שנאה בפייסבוק. "אם הטכנולוגיה משתפרת כל כך, למה פייסבוק לא משתפרת באותה מידה?"

כלי הבינה המלאכותית של פייסבוק הם אולי חזקים, אבל הסרת התכנים הללו אינה קלה כמו לחיצה על כפתור המחיקה.

הכשרת כלי למידת מכונה בזיהוי תכנים פסולים כמו אנליסטים אנושיים דורשת זמן, מומחיות והמון נתונים לזיהוי המילים והוויזואליה הזו. קבוצות השנאה גם מתמחות יותר בעקיפת החיישנים האוטומטייים של הפלטפורמה. וישנם הממדים של פייסבוק - 2.6 מיליארד משתמשים שמפוצלים בין אינספור שפות ותרבויות - ועסקי הפרסום שמתבססים עליה.

מדען הבינה המלאכותית הראשי של פייסבוק, יאן לקאן, אמר בראיון במרץ שהוא עובד על פיתוח בינה מלאכותית שמפקחת על עצמה, שיכולה לחקות מאמץ אנושי לטפל בכל ההיקף של האתר. "למכונות הלמידה הנוכחיות אין שכל ישר. יש להן תפקוד מוגבל וצר מאוד", הוא הסביר. הוא הוסיף שהדוח שפורסם זה עתה "חשוב מאוד לפייסבוק כדי שהיא תוכל לאתר תוכני שנאה במאות שפות".

"צוות הארגונים המסוכנים" של פייסבוק, שמתמקד בטרוריסטים ובקבוצות שנאה מאורגנות נוספות, ממחיש את הגישה ההיברידית (משולבת) של החברה בתגובה לאתגרים הללו.

הצוות הזה, 350 עובדים בראשות מומחים למאבק בטרור, משתמש בשילוב של בדיקות "ידניות" וכלים אוטומטיים כדי להגביל את תפוצת המסרים של ארגוני ג'יהאד כמו דאעש. באמצעות " hashes", טביעות אצבע דיגיטליות של תוכן לזיהוי תעמולה בכוח בזמן אמת, הצוות גם אימן "מסווגים" של למידת מכונה לבדוק את הפוסטים כמו אנליסטים אנושיים.

אבל התברר שקשה יותר לכוון מחדש את הכלים האלו לזיהוי תכנים של חסידי עליונות לבנה, אומרים מומחים נגד טרור. התכנים הללו נוטים להית מפוצלים יותר ובעלי ניסוח אירוני שחופף לעתים קרובות נאומים פוליטיים של הימין. ממשלות מערביות גם לא מזהות קבוצות רבות כאלו כארגוני טרור, ובכך הן שוללות מחברות הטק את המפתח לנקוט נגדן פעולה.

הדינמיקות הללו הופכות את השיקולים אם להסיר תוכן ל"קשים הרבה יותר להשגה ולהשגה בזמן אמת", אמר ניקולאס רסמוסן, מנכ"ל פורום האינטרנט העולמי למניעת טרור, שהוא שותפות בין ממשלות וחברות טק כולל פייסבוק, טוויטר ומיקרוסופט. "זה האתגר שהחברות עומדות בפניו", אמר רסמוסן בראיון בחודש שעבר.

חוקרים אומרים שהתקפת הטרור של חסידי העליונות הלבנה בכרייסטצ'רץ' שבניו זילנד בשנה שעברה - שהועלתה לפייסבוק בסטרימינג חי ששותף בהרחבה - מדגימה את הסכנה של תוכן שנופל בין הכיסאות בפייסבוק.

החברה הכפילה מאז את ההתמקדות שלה בקבוצות ימין קיצוני, ופנתה יותר לבדיקות ממוקדות של אנליסטים אנושיים במקום כלי בינה מלאכותית, אומרים דוברים של פייסבוק. הטקטיקה הזו הניבה את ההסרה במרץ של Northwest Front, קבוצת שמטיפה למדינה אתנית לבנה באגן הצפון מערבי של האוקיינוס השקט, ולהסרה ביוני של רשת חשבונות שקשורה לתנועת הבוגאלו הרופפת (ימין קיצוני, לובשי חולצות בנוסח הוואי).

מנהלי פייסבוק מצביעים על יכולתה הגוברת להסיר תכנים כאלו מראש כהוכחה לשיפור המצב, ודוברת החברה מסרה ביום רביעי שצוות הארגונים המסוכנים מתמקד יותר ויותר בתחום זה. אך עדיין, פעילי זכויות אזרח ומפרסמים חידשו את הביקורת שלהם על גישת החברה לתכנים קיצוניים על רקע הדיון הלאומי בארה"ב על פשעי שנאה בעקבות הריגתו של השחור ג'ורג' פלויד במעצר משטרתי במיניאפוליס במאי.

"רשמנו התקדמות אמיתית עם השנים", כתבה סמנכ"לית התפעול שריל סנדברג בפוסט שלה ביום רביעי. "אבל העבודה הזו לעולם לא מסתיימת, ואנחנו יודעים איזו אחריות גדולה יש לפייסבוק להשתפר באיתור והסרה של תוכני שנאה". 

מה יהיה עם שיח השנאה בפייסבוק
● פייסבוק סופגת ביקורת רבה מצד פעילי זכויות אדם ומפרסמים על השיח הקיצוני ברשת החברתית
● בפייסבוק מצהירים כי הם מודעים לאחריות שלהם וכי הם משתפרים עם השנים
● הטכנולוגיה עדיין מוגבלת מבחינת היכולת שלה לעבוד באופן אוטומטי, במאות שפות

עוד כתבות

סאנה מרין

המנהיגה הצעירה ביותר בעולם שוברת שיאי אהדה בפינלנד אחרי משבר הקורונה

היא נאבקה לשרוד כלכלית בילדותה, גדלה במשפחה חד-מינית, לא נותנת לפוליטיקה להשתלט על חייה ומכונה "המנהיגה של דור האינסטגרם" ● בגיל 34, כשהיא מובילה את הממשלה הנשית ביותר אי פעם ומתמודדת בהצלחה עם משבר הקורונה, סאנה מרין עושה היסטוריה

ישראל כץ / צילום: עדינה ולמן - דוברות הכנסת / עיבוד: טלי בוגדנובסקי , גלובס

הבנקים הגדולים מנסים לעכב את התחרות בצל משבר הקורונה, מה יעשה משרד האוצר?

הפועלים ולאומי נדרשים לצמצם את המסגרות בכרטיסי אשראי עד סוף ינואר ומבקשים דחייה • חברות כרטיסי האשראי, שהפכו למתחרות בבנקים, חוששות מפגיעה בגיוס לקוחות ומתנגדות

שבי שמר / צילום: שלומי יצהר

בנק אגוד הקטין את ההוצאות בגין הפסדי אשראי ושיפר את הרווח הרבעוני

בדרך למיזוגו בתוך במזרחי טפחות ובמקביל להימשכות משבר הקורונה מציג אגוד גידול של 41% ברווח הרבעוני כשהוא נהנה מהכנסות בגין הפרשות קבוצתיות לצד רווח "משמעותי" בתיק ההשקעות שלו ● בשל ההפסד ברבעון הראשון הרווח במחצית הצטמק ב-94%

דב קוטלר / צילום: גדי דגון, יח"צ

הפועלים ממשיך להפריש בגין הפסדי אשראי והרווח צנח בכ-85%

המשבר הכלכלי ומגפת הקורונה ממשיכים לטלטל את תוצאות בנק הפועלים ● בנטרול ספיחי הפרשות שבהן היה מעורב הבנק בארה"ב ההיפרדות הסופית מישראכרט ועוד היבטים "חריגים", רשם הבנק ברבעון השני רווח נקי של 161 מיליון שקל ●  תיק האשראי לציבור של הבנק קטן ברבעון השני ב-2%

יועז הנדל / צילום: כדיה לוי, גלובס

הסתיים מכרז התדרים: קבוצת סלקום תשלם 115 מיליון שקל, כפול מפרטנר-הוט

הסכום המצרפי שהחברות תשלמנה יעמוד על 265 מיליון שקל ● פלאפון תשלם 88 מיליון שקל ופרטנר והוט-מובייל ישלמו 62 מיליון שקל ● שר התקשורת יועז הנדל: "פרישת דור 5 במדינת ישראל תאפשר בין היתר לייצר מנועי צמיחה ותוביל לקידום התעשייה"

נתב"ג ריק בצל סגירת השמיים עקב הקורונה / צילום: יוסי פתאל

בדיקת קורונה ללא מגע בשדה התעופה: ככה זה הולך לעבוד

חברת בינה. AI, המפתחת מערכת לחישה מרחוק של סמנים רפואיים, הודיעה על תחילתם של שני ניסויי פיילוט עם שדות תעופה בעולם, לבדיקות קורונה ללא מגע

קניון שבעת הכוכבים בחודש שעבר. חיכוכים בין קבוצות אופנה גדולות לקניונים / צילום: כדיה לוי, גלובס

מאזן האימה החדש של הקניונים: זארה מכתיבה מודל תשלומים חדש והיא לא היחידה

כך נראה המאבק בין רשתות האופנה לחברות הנדל"ן על השכירות ודמי הניהול בימי הקורונה • החנויות דורשות שהקניונים יתחשבו בפדיונות הקורסים שלהן • חלק מהקניונים נתנו "הקלות קורונה", אבל נשמעות גם טענות על ניצול המצב • האם ההפסדים של מליסרון ברבעון האחרון הם רק קצה הקרחון?

כיכר המדינה, ת"א / צילום: גיא ליברמן, גלובס

בדרך לעסקת מימון חוץ בנקאי ענקית בכיכר המדינה בתל אביב

בעלי הזכויות הפרטיים בקרקע חתמו על מזכר הבנות למימון בגובה של כ-1.8 מיליארד שקל מול חברת ברקת ● כלל ביטוח תיקח אף היא חלק במימון ● בפרויקט מתוכננים להיבנות שלושה מגדלים ובהם 450 דירות

ד"ר סיניה נתניהו / צילום: יוסי כהן

ד"ר סיניה נתניהו מונתה למנהלת התוכנית לסביבה והערכת השפעות בריאותיות בארגון הבריאות העולמי באירופה

ד"ר סיניה נתניהו תופקד על חיזוק ויצירת התשתית המקצועית בתחום הערכת השפעות בריאותיות כתוצאה מחשיפה לסיכונים סביבתיים, הערכת הסיכונים וניהול הסיכונים בכל היבשת האירופאית, וצפויה להתחיל את תפקידה במטה הארגון בבון בתחילת חודש ספטמבר

הנחה בארנונה? רק בפינוי בינוי / עיצוב: טלי בוגדנובסקי, צילום: יח"צ

רק 13 רשויות מקומיות מבטלות את ההעלאה האוטומטית בתעריף הארנונה. מי צריך את המנגנון הזה?

רק 13 רשויות מקומיות ביקשו להשאיר את הארנונה לשנה הבאה כמו שהיא ולא להעלות אותה • אבל למה בכלל צריך עדכון אוטומטי אחיד לכל הרשויות? הרי לחלשות זה לא יעזור, ולחזקות זה לא נותן סיבה להתייעל

אחוזת ראשונים / צילום: סיון שוב עמי

בדיור המוגן מסתכלים לטווח הארוך וממשיכים לבנות, אבל הרבה יותר קשה לשווק בקורונה

כמו בתי דיור מוגן אחרים, גם באחוזת ראשונים נקטו צעדים מחמירים בתקופת סגר הקורונה, והתמודדו עם הפחד הגדול מהידבקות ● אבל המגבלות והחששות לא עצרו את הבעלים מלקדם את בנייתם של שלושה בתי דיור מוגן נוספים ● בונים מחדש - האתגרים של ענף הנדל"ן

בני רוזנברג ז"ל במסיבת הפרידה מ"גלובס" / צילום: תמונה פרטית

"אמרת בני רוזנברג אמרת 'בית הדפוס של גלובס'"

רוזנברג, שניהל את בית הדפוס למעלה מ-20 שנה, נפטר השבוע • ילדיו ועמיתים לשעבר מספרים עליו

תמיר פלד, הבעלים של "מוזיאון המרציפן והשוקולד" ו"בית השקד" בכפר תבור / צילום: תמונה פרטית

כך בחסות הקורונה הפך המוזיאון הקטן והוותיק בכפר תבור את פניו

תמיר פלד, בן 44, בעלי "מוזיאון המרציפן והשוקולד" ו"בית השקד" בכפר תבור ● אחרי שההכנסות צנחו ב-95% הבין שכדי להתפרנס עליו לעשות שינוי, ועבר מתחום האומנות והיצירה לתחום "קמעונאות הבוטיק" ● "גלובס" שם את הסיוע לעסקים קטנים ולעצמאים במרכז  

קובי ריכטר / צילום: תמר מצפי

לא חיכתה לעסקה: מניית סומוטו זינקה ב-110% מתחילת השבוע שעבר

בעקבות הדיווח אתמול (ד') על עסקת מיזוג עם נוסטרומו הפועלת בתחום הלוהט של אגירת וניהול אנרגיה, זינקה מניית סומוטו ב-60% לשווי חברה של 230 מיליון שקל ● עוד לפני הדיווח אתמול קפצה סומוטו בכ-30% בתוך מספר ימים

בונים מחדש: איך השפיעה הקורונה על ענף הנדל״ן / צילום: א.ס.א.פ קריאייטיב, שאטרסטוק

תמריצים ושינויי חקיקה: איך משקמים את תחום הדיור המוגן מהריסות הקורונה?

בימי הקורונה הפכו תמריצים כלכליים ושינויי חקיקה להכרחיים בתחום הדיור המוגן, טוענים הבכירים בענף ● למבוגרים עצמם חשוב לשמר את השגרה שלפני המגפה, על מנת לתרום לבריאותם הנפשית והפיזית ● בונים מחדש – האתגרים של ענף הנדל"ן, כתבה רביעית בסדרה

קמאלה האריס בקליפורניה, 2019  / צילום: Richard Vogel, Associated Press

המינוי ההיסטורי של ביידן: האם קמאלה האריס תהיה "הנשיאה החליפית"

היא אישה, היא שחורה, היא נראית ונשמעת כמו העתיד ● מינויה ההיסטורי של קמאלה האריס למועמדת הדמוקרטים לסגן נשיא מעניק כיוון ודגש, שטראמפ יתקשה להתמודד אתו ● אבל צריך לזכור שלסגן נשיא בארה"ב יש השפעה רק אם הנשיא מאפשר אותה

רה"מ בריטניה בוריס ג'ונסון / צילום: בן סטנסל, AP

הורידה 5,000 קורבנות: אנגליה שינתה את הגדרות התמותה מקורונה

באנגליה החליטו מעתה לא לספור במניין המתים מהמגפה אנשים שמתו לאחר יותר מ-28 יום לאחר שאובחנו לראשונה כחולי קורונה ● עכשיו עומד מספר המתים מקורונה בבריטניה כולה על 41,329 בני אדם

שר החוץ גבי אשכנזי ושר החוץ היווני ניקוס דנידיאס / צילום: משרד החוץ, יח"צ

בקרוב בטן גב ביוון: תיירים ישראלים יוכלו לבקר במדינה ללא צורך בבידוד

ההודעה יצאה בעקבות פגישה שנערכה בין שר החוץ גבי אשכנזי ובין מקבילו היווני, שר החוץ ניקוס דנידיאס בלשכתו בירושלים ● ההסכם יאפשר כניסה של ישראלים לאיים מסויימים ביוון מהם הם יהיו פטורים מחובת בידוד בחזור ומחובת בידוד עם הנחיתה

נפגעי הקורקינטים והאופניים החשמליים - 12 באוגוסט 2020

אמש באיכילוב: 8 פצועים בתאונות קורקינט ואופניים חשמליים

"גלובס" ובית החולים איכילוב חוזרים לדווח על מספר הנפגעים מתאונות שבהן מעורבים כלי רכב חשמליים: אופניים וקורקינטים

ליאת בן ארי  / צילום: שלומי יוסף

עיריית ראש העין: "אין מניעה לאשר בקשת ליאת בן-ארי לפיצול הדירה"

עו"ד ליאת בן-ארי-שווקי זומנה לחקירה בחשד כי היא ובעלה ביצעו עבירת בנייה של פיצול ללא היתר בבית שרכשו בעיר ● גם הבעל, אביב שווקי, זומן לחקירה ● מעיריית ראש העין נמסר: "היועמ"שים של העירייה והוועדה לתכנון ולבניה סבורים כי אין מניעה משפטית לאשר הבקשה"