פייסבוק ניסתה להפוך למקום בריא יותר - האלגוריתם הפך אותה למקום זועם יותר

ה"וול סטריט ג'ורנל" חשף בסדרת תחקירים מטלטלת את מאחורי הקלעים של קבלת ההחלטות ברשת החברתית הגדולה בעולם • לאורך כל השבוע תפורסם בגלובס הסדרה בתרגום בלעדי לעברית • והפעם: מזכרים פנימיים מראים איך שינוי באלגוריתם מ־2018 העניק עדיפות לתכנים שערורייתיים • כשהפנו את תשומת לבו של צוקרברג לכך, הוא התנגד לתיקונים שהוצעו • מסמכי פייסבוק, חלק 3 

מפגינים מחוץ לשימוע בנושא פייק ניוז- בועדת הדיגיטל, תרבות וספורט האנגלית, לונדון / צילום: PA PHOTOS
מפגינים מחוץ לשימוע בנושא פייק ניוז- בועדת הדיגיטל, תרבות וספורט האנגלית, לונדון / צילום: PA PHOTOS

תקציר הכתבה

פייסבוק הכריזה על שינוי האלגוריתם שלה ב־2018 כדי לשפר את הפלטפורמה ולעצור את הירידה במעורבות המשתמשים ברשת החברתית. מארק צוקרברג הכריז שהמטרה שלו היא לחזק את הקשר בין משתמשים ולשפר את איכות חייהם על ידי כך שהפלטפורמה של פייסבוק תאפשר אינטראקציות בין חברים ומשפחה.

אלא שבתוך החברה, כך מראים המסמכים, אנשי צוות הזהירו על כך ששינוי האלגוריתם יצר את האפקט ההפוך: הוא הפך את פייסבוק ואת המשתמשים לכועסים יותר. צוקרברג התנגד למספר שינויים שהוצעו לו על ידי הצוות, משום שהוא חשש שהם יובילו לכך שהמשתמשים יתקשרו פחות באמצעות פייסבוק.

הכתבה הוקלטה באולפני הספריה המרכזית לעיוורים ולבעלי לקויות קריאה

בסתיו של 2018, ג'ונה פרטי, מנכ"ל באזפיד, שלח אימייל למנהל בכיר בפייסבוק. התוכן המפלג ביותר שאתרים חדשותיים ואתרי תוכן אחרים מפרסמים הוא התוכן שהופך לוויראלי ביותר על גבי הרשת, כך כתב, וזה מתמרץ עורכים לפרסם יותר תכנים מעוררי מחלוקת.

הוא הצביע על ההצלחה של פוסט של באזפיד עם הכותרת "21 דברים שכמעט כל האנשים הלבנים אשמים באמירתם", ששותף 13 אלף פעמים וזכה ל־16 אלף תגובות בפייסבוק, רבות מהן מצד אנשים שמתחו ביקורת על באזפיד על כך שהעלתה את הפוסט, ואחרים שהתווכחו אלה עם אלה בנושאי גזע. תכנים אחרים שהעלתה החברה, מסרטוני חדשות ועד כתבות על טיפול עצמי וחיות, לא הצליחו כל כך, כתב המנכ"ל.

פרטי אמר שהסיבה לכך היא שינוי גדול שעשתה פייסבוק באלגוריתם של פיד החדשות שלה מוקדם יותר באותה שנה במטרה לקדם "אינטראקציות חברתיות משמעותיות", או MSI בראשי תיבות, בין חברים ובני משפחה - כך ניתן ללמוד ממסמכים פנימיים של פייסבוק שנצפו על ידי הוול סטריט ג'ורנל ומצטטים את הודעת הדואר של מנכ"ל באזפיד.

באזפיד בנה את העסק שלו על יצירת תוכן שיהפוך לוויראלי בפייסבוק וברשתות חברתיות אחרות, כך שהיה לאתר עניין רב בכל שינוי אלגוריתמי שיכול לפגוע בהפצת הכתבות. ועדיין, ההודעה ששלח פרטי פגעה בעצב חשוף.

עוד בסדרהלכל הכתבות

הצג עוד

מנכ"ל פייסבוק, מארק צוקרברג, אמר שמטרת השינוי באלגוריתם הייתה לחזק את הקשרים בין משתמשים ולשפר את הרגשתם הכללית. פייסבוק עודדה אנשים לדבר יותר עם חברים ומשפחה ולבלות פחות זמן בצריכה פאסיבית של תוכן שהופק על ידי אנשי מקצוע, שעל פי מחקרים נראה היה שמזיק לבריאותם הנפשית.

העובדים מזהירים מפני תוצאה הפוכה

אבל בתוך החברה, עובדים הזהירו שהשינוי מביא לתוצאה הפוכה, כך ניתן ללמוד מהמסמכים. הוא הפך את הרשת החברתית של פייסבוק למקום הרבה יותר מלא בזעם.

חוקרים של החברה גילו שעורכים באתרי חדשות ומפלגות פוליטיות שינו את הטון של הפוסטים שלהם ונטו לכיוון שערוריות וסנסציות. הטקטיקה הזו הביאה למספר רב של תגובות וזה התפרש כהצלחה ברשת החברתית.

"לגישה שלנו תופעות לוואי לא בריאות על חלקים חשובים מהתוכן הציבורי, כמו פוליטיקה וחדשות", נכתב על ידי צוות חוקרי נתונים, שסימנו את תלונתו של פרטי במזכר שנצפה על ידי הוול סטריט ג'ורנל. "זו אחריות הולכת וגדלה", אחד מהם כתב במזכר מתאריך מאוחר יותר.

הם הגיעו למסקנה שהנטייה של האלגוריתם החדש להבליט תוכן ששותף יותר מפעם אחת בפיד החדשות גרמה לקולות הכועסים להישמע יותר בקול. "מידע שגוי, רעילות, ותוכן אלים נפוצים באופן חורג מהרגיל בשיתופים חוזרים", כתבו החוקרים במזכרים פנימיים.

כמה מפלגות פוליטיות באירופה אמרו לפייסבוק שהאלגוריתם גרם להן לשנות עמדות מדיניות כדי שיהדהדו יותר ברשת, כך ניתן ללמוד מהמסמכים.

"מפלגות רבות, כולל כאלה שנעו לכיוון השלילי, חוששות לגבי ההשפעות ארוכות הטווח על הדמוקרטיה", נכתב בדוח פנימי אחד בפייסבוק, מבלי לציין שמות של מפלגות ספציפיות.

בפייסבוק דאגו: משתמשים החלו להיכנס פחות

עובדי פייסבוק דנו גם במניע השני, הפחות מוכר של החברה לעשות את השינוי: משתמשים החלו להיכנס לפייסבוק פחות וזו הייתה מגמה מדאיגה, כך ניתן ללמוד מהמסמכים.

הודעות הדואר האלקטרוני והמזכרים הם חלק ממערך נרחב של מסמכים ותכתובות פנימיות שנצפה על ידי הוול סטריט ג'ורנל. הם מציעים תמונה שלא הייתה כדוגמתה לגבי המידה בה פייסבוק מודעת לכשלים ברשת שלה ועד כמה לעתים קרובות אין לה הרצון או היכולת לטפל בהם. זו הכתבה השלישית בסדרת כתבות המבוססות על המידע הזה.

בראיון, אמר לארס בקסטרום, מנהל ההנדסה בפייסבוק, שכל אלגוריתם מסתכן בקידום תוכן לא רצוי או מזיק למשתמשים מסוימים. "כמו כל אופטימיזציה, הולכות להיות דרכים מסוימות שבהן ניתן לנצל לרעה את השינוי", אמר. "זו הסיבה שיש לנו צוות אמינות המנסה למצוא את המקרים האלה ולחשוב איך לצמצם אותם ביעילות המירבית".

צוקרברג מתנגד לשינויים שהציעו "צוות האמינות"

מדעני מחקר נתונים בצוות האמינות הזה, שתפקידם לשפר את אמינות התוכן על גבי הפלטפורמה, עבדו על מספר שינויים אפשריים לצמצום נטיית האלגוריתם לתת עדיפות דווקא לשערוריות ולשקרים. צוקרברג התנגד לחלק מהתיקונים המוצעים, כך ניתן ללמוד מהמסמכים, בגלל שחשש שהם יפגעו במטרה השנייה של החברה, לגרום למשתמשים לבלות משך זמן ארוך יותר בפייסבוק.

אנה סטפנוב, שהובילה צוות שהתמודד עם הנושאים האלה, הציגה לצוקרברג כמה הצעות שינוי כדי להתמודד עם הפצת תוכן שקרי ומפלג ברשת החברתית, כך ניתן ללמוד ממזכר מאפריל 2020, שכתבה לגבי תדרוך שעשתה למנכ"ל. אחד השינויים שהציעה היה אמור להסיר חיזוק שהאלגוריתם היה נותן לתכנים, שקיימת לגביהם הסבירות הכי גבוהה שישותפו על ידי מספר רב של משתמשים.

"מארק לא חושב שאנו יכולים לפעול באופן רוחבי", לגבי השינוי, כתבה לעמיתיה לאחר הפגישה. צוקרברג אמר שהוא פתוח לבחון את הגישה, אמרה, אבל "אנחנו לא נשיק את זה אם יהיה לזה מחיר משמעותי מבחינת השפעה על אינטראקציות חברתיות משמעותיות".

לפני חודשיים, באוגוסט, כמעט שנה וחצי אחרי שסטפנוב אמרה שצוקרברג פסל את הרעיון של יישום תיקון דומה באופן רוחבי, הודיעה פייסבוק שהיא "מרחיבה בהדרגה חלק מהבדיקות שלה כדי לשים פחות דגש על סימנים כמו עד כמה סביר שמישהו יגיב או ישתף תוכן פוליטי". הצעד הוא חלק ממאמץ נרחב יותר, שהונע על ידי סקרי משתמשים, להקטין את כמות החומר הפוליטי בפייסבוק. זאת, לאחר שנמתחה ביקורת על הדרך, שבה מפגינים נגד תוצאות הבחירות בארה"ב השתמשו ברשת החברתית כדי להטיל ספק בתוצאות ההצבעה ולארגן את ההפגנות שהובילו להתפרעויות ב־6 בינואר בגבעת הקפיטול בוושינגטון.

בקסטרום, המפקח על דירוגי תוכן בפיד החדשות, אמר שפייסבוק עשתה את השינוי באחרונה כי הרגישה שהחסרונות של הסתמכות על מדדים המבוססים על מעורבות לגבי קטגוריות תוכן רגישות כמו פוליטיקה היו בעלי משקל רב מהיתרונות.

תומכי טראמפ מסתערים על הקפיטול ב־6 בינואר במחאה על תוצאות הבחירות. פייסבוק שימשה במה לליבוי יצרים והסתה / צילום: Associated Press, Jose Luis Magana
 תומכי טראמפ מסתערים על הקפיטול ב־6 בינואר במחאה על תוצאות הבחירות. פייסבוק שימשה במה לליבוי יצרים והסתה / צילום: Associated Press, Jose Luis Magana

השלכות גדולות על החברה והמפרסמים

שינוי האלגוריתם מ־2018 השפיע על המאפיין העיקרי של פייסבוק, פיד החדשות, שמותאם באופן אישי ומתעדכן ללא הרף בצילומים של בני משפחה וחברים וקישורים לכתבות חדשות. התוכן שמוצג בפיד, אחראי לרוב הזמן שכמעט 3 מיליארד משתמשי פייסבוק מבלים בפלטפורמה. החברה מוכרת את תשומת הלב של המשתמשים למפרסמים, גם על גבי הרשת של פייסבוק וגם ברשת הקשורה אינסטגרם, וזה המקור לכמעט כל ההכנסות של החברה, שהגיעו בשנה שעברה ל־86 מיליארד דולר.

אלגוריתם יחודי שולט בתוכן שיופיע בפיד החדשות של כל משתמש בנפרד. הוא לוקח בחשבון מי הם החברים של המשתמש, לאיזה קבוצות הצטרף, לאיזה עמודים עשה לייק, איזה מפרסמים שילמו כדי לפנות אליו ואיזה סוגי סיפורים פופולריים אצלו בפיד או מניעים שיחות שהוא מתעניין בהם.

שינויים משמעותיים באלגוריתם יכולים להיות בעלי השלכות גדולות על החברה, המפרסמים והמו"לים של גופי תקשורת. פייסבוק עשתה שינויים רבים באלגוריתם לאורך השנים. המעבר להדגשת MSI היה אחד הגדולים ביותר.

"האם שינוי בדירוג הוא המקור לפילוג בעולם? לא", אמר דובר פייסבוק אנדי סטון בהודעה בכתב. "המחקר מראה שכמה מחלוקות מקטבות בחברה שלנו גדלות כבר כמה עשורים, הרבה לפני שפלטפורמות כמו פייסבוק בכלל היו קיימות".

2017 הייתה שנה לא קלה לפייסבוק

בינואר 2018 פייסבוק יצאה משנה לא קלה. החברה הייתה במגננה בוושינגטון כאשר בכירים במערכת המודיעין האמריקאית אמרו שפייסבוק שימשה את רוסיה להתערבות בבחירות הנשיאותיות של 2016 בארה"ב.

צוקרברג הכריז שהוא משנה את היעד של מנהלי המוצר של פייסבוק, מלעזור לאנשים למצוא תוכן רלוונטי ליצירת יותר אינטראקציות עם חברים וקרובי משפחה. לדבריו, המעבר הונע על ידי מחקר שהראה שצריכת תקשורת באופן פסיבי בפייסבוק - בעיקר סרטונים שהיו בפריחה אדירה ברשת החברתית - לא הייתה טובה לבריאות הנפשית הכללית כמו אינטראקציה עם אנשים אחרים.

הוא הציג את השינוי הזה כהקרבה. "כעת, אני רוצה להיות ברור: על ידי עשיית השינויים האלה, אני מצפה שכמות הזמן שאנשים מבלים בפייסבוק ומספר מדדי מעורבות אחרים יהיו בירידה", כתב בפייסבוק. "אבל אני גם מצפה שהזמן שכן תהיו בפייסבוק יהיה בעל ערך רב יותר. ואם נעשה את הדבר הנכון, אני מאמין שזה יהיה טוב גם לקהילה שלנו ולעסקים שלנו בטווח הארוך".

סרטוני הכשרה של פייסבוק ומזכרים פנימיים מראים עוד סיבה לשינוי - החשש הגובר בחברה לגבי ירידה במעורבות משתמשים, כלומר שיתוף פוסטים והשארת תגובות, סימון לייקים וכו. מעורבות משתמשים נחשבת בעיני החברה לסימן חשוב לבריאות העסק.

תגובות, לייקים ושיתופים חוזרים ירדו במהלך 2017, בעוד שפוסטים של "שידור מקורי" - טקסט וצילום שמשתמש עשוי לשתף כשהכלב שלו מת לדוגמה - המשיכו לרדת כל השנה ולא היה נראה ששום התערבות מצליחה לבלום זאת, כך ניתן ללמוד ממזכרים פנימיים. החשש היה שבסופו של דבר אנשים עשויים להפסיק להשתמש בפייסבוק בכלל.

חוקר נתונים אחד כתב במזכר מ־2020 שצוותים בפייסבוק למדו את הנושא ו"מעולם לא הצליחו באמת להבין למה המדדים ירדו". אנשי הצוות בסופו של דבר הגיעו למסקנה שהבולטות של סרטונים ותוכן אחר המופק באופן מקצועי, לעומת פוסטים אורגניים של אנשים פרטיים, היו ככל הנראה חלק מהבעיה.

מטרת השינוי באלגוריתם הייתה להפוך את מגמת הירידה בכמות התגובות, להעלות צורות אחרות של מעורבות ולעודד יותר תוכן מקורי בפוסטים. האלגוריתם היה מעלה פוסטים שגררו יותר תגובות ואמוג'ים של רגשות, שבעיני החברה יש להם משקל רב יותר מלייקים פשוטים, כך ניתן ללמוד מהמסמכים.

בסרטון הכשרה פנימי, עובד בפייסבוק אומר שבנוסף ל"חובה האתית" של החברה לא להפוך משתמשים לזומבים עם יותר מדי סרטונים, יש לה גם סיבות כלכליות להתערב. "אנשים כנראה יעזבו את האפליקציה אם היא תהיה רעה להם", אומר העובד.

מארק צוקרברג וסגן נשיא פייסבוק, קווין מרטין, האחראי על מדיניות ציבורית בחברה, מחליפים מסמכים בשימוע בקונגרס, 2019 / צילום: Associated Press, Andrew Harnik
 מארק צוקרברג וסגן נשיא פייסבוק, קווין מרטין, האחראי על מדיניות ציבורית בחברה, מחליפים מסמכים בשימוע בקונגרס, 2019 / צילום: Associated Press, Andrew Harnik

דירוג של שיתופים מחדש

הפתרון של פייסבוק היה ליצור נוסחה שתמדוד כמה אינטראקציות "בעלות משמעות" נוצרות על ידי כל פוסט, ואז לארגן את פיד החדשות כך שיעודד כמה שיותר כאלה. במסגרת מערכת ניקוד פנימית, שנועדה למדוד את ההצלחה, "לייק" היה שווה נקודה אחת; תגובה, שיתוף מחדש בלי טקסט או תגובה להזמנה היו שוות חמש נקודות; ותגובה משמעותית, מסר, שיתוף מחדש או סימון הגעה לאיוונט היו שווים 30 נקודות. מכפילים נוספים נוספו בהתחשב בכמות האינטראקציות בין חברים בקבוצה אחת, חברים בפייסבוק או זרים.

מנקודת מבט עסקית, זה עבד. כפי שחזתה פייסבוק, כמות הזמן שמשתמשים היו בפלטפורמה ירדה, אבל המאמץ להרבות באינטראקציות בין משתמשים האט את הצניחה בכמות התגובות, ובעיקר שיקף את המדד החשוב מאוד של "שימוש יומי" של אנשים בפייסבוק, על פי בדיקות שנעשו באוגוסט 2018, כך כתוב במזכרים של החברה.

לשינוי היו השפעות חיוביות מסוימות. תוכן ששותף על ידי אנשי קשר קרובים היה יותר אמין, והמשתמשים מצאו שיש בו יותר משמעות לעומת חומר ממכרים רחוקים יותר - כך נכתב באחד המסמכים. אבל היתרונות האלו היו בעלי פחות משקל מהצד השני בשינוי באלגוריתם, שהעניק עדיפות לפעולות משתמשים כמו שיתופים מחדש ותגובות.

אחד הסימנים הראשונים לצרות, בקיץ של 2018, היה כשחוקרי־המידע של פייסבוק עשו סקרים בין משתמשים ושמעו מרבים מהם שלדעתם האיכות של הפיד ירדה, כך ניתן לקרוא במסמכים. כפי שהזהירה פייסבוק שצפוי היה לקרות, השינוי פגע בהרבה מו"לים של אתרי חדשות. במחצית הראשונה של 2018, באזפיד סבלה מירידה בתעבורה של 13% לעומת המחצית השנייה של 2017; אתר החדשות ברייטבארט ירד ב־46% ורשת ABC ירדה ב־12% - כך על פי נתוני חברת המידע Comscore.

טופיקס (Topix), אתר חדשות המוכר בגלל הפורומים הקהילתיים שלו, איבד 53% מתעבורת האינטרנט בתקופה זו. "רשת פייסבוק הייתה מנוע התעבורה העיקרי שלנו בזמנו", אמר כריס טולס, המנכ"ל לשעבר של טופיקס. "זו בהחלט הייתה בעיה מבחינתנו". טופיקס נרכשה על ידי Publishers Clearing House ב־2019.

נוצר לחץ לייצר תוכן שלילי

בראיונות, יותר מתריסר מנכ"לים של הוצאות לאור תיארו את השינוי, שעשתה פייסבוק כ"הקש האחרון" לאחר מספר שנים שבהן היא שינתה שוב ושוב מדיניות, ששכנע אותם שהם לא יכולים להסתמך על פייסבוק לתעבורת אינטרנט.

באזפיד נעשתה מפורסמת בגלל מוצרי אינטרנט כמו רשימות וחידונים, אבל במשך השנים היא בנתה מנוע חדשות חזק והתרחבה באופן אגרסיבי לתחום הסרטונים. באופן היסטורי, פייסבוק הייתה מנוע תעבורה מרכזי לבאזפיד, אם כי בשנים האחרונות המו"ל גיוון את אמצעי ההפצה.

מנכ"ל החברה ג'ונה פרטי, כתב במייל שנראה כי האלגוריתם החדש נותן עדיפות לא מידתית לתכנים מפלגים ומשסים, בהתחשב במה שהוא ראה בתוצאות שלו ובהתבוננות שלו לגבי הביצועים של פוסטים שהוציאו מו"לים ועורכים של אתרים.

"דירוגי MSI לא באמת נותנים עדיפות לתוכן הגורם לאינטראקציות חברתיות בעלות משמעות", כתב פרטי במייל לבכיר בפייסבוק, והוסיף שהעובדים שלו חשים "לחץ לייצר תוכן שלילי או שהביצועים שלהם יהיו גרועים".

לא היה מדובר רק בתוכן שניצל מתיחויות בין־גזעיות, אלא גם בתחומי מדע פופולרי, "חדשות מטרידות מאוד" ותמונות מגעילות.

מנכ''ל באזפיד ג'ונה פרטי / צילום: Reuters, Lucy Nicholson
 מנכ''ל באזפיד ג'ונה פרטי / צילום: Reuters, Lucy Nicholson

הפוליטיקאים הפכו לשליליים יותר

בפולין, השינויים הפכו את השיח הפוליטי על גבי הרשת החברתית לנבזי יותר, כך אמרו לחברה מפלגות פוליטיות, על פי המסמכים. במסמכים לא מפורט באיזה מפלגות מדובר.

"צוות ניהול הרשתות החברתיות של מפלגה אחת מעריך שהם העבירו את היחס בפוסטים שלהם מ־50/50 חיובי לעומת שלילי ל־80% פוסטים שליליים, באופן מפורש כתוצאה של השינוי באלגוריתם", כתבו שני חוקרים בפייסבוק בדוח פנימי מאפריל 2019.

נינה ינקוביץ, שחוקרת את הקשר בין רשתות חברתיות לדמוקרטיה במרכז ובמזרח אירופה כעמיתה במכון וודרו ווילסון בוושינגטון, אמרה ששמעה תלונות מצד מפלגות פוליטיות רבות באזור זה של העולם. המתלוננים קוננו על כך שהשינוי באלגוריתם הפך התקשרות ישירה עם תומכי המפלגות דרך עמודי הפייסבוק לקשה יותר. "כעת יש להן תמריץ", כך אמרה, "ליצור פוסטים שיביאו ליותר שיתופים ותגובות - לעתים קרובות על ידי פנייה למכנה המשותף של 'כעס' - כדי לקבל חשיפה בפיד החדשות של המשתמשים".

החוקרים של פייסבוק כתבו בדוח שלהם שבספרד, מפלגות פוליטיות עוסקות בפעולות מתוחכמות כדי לגרום לפוסטים בפייסבוק להגיע רחוק ומהר ככל האפשר. "הם למדו שמתקפות חריפות על היריבים מביאות למעורבות הגדולה ביותר", כתבו החוקרים. "הם טוענים שהם 'מנסים להימנע מכך' אבל בסופו של דבר 'אתה עושה מה שעובד'".

ב־15 החודשים שלאחר החיכוכים בספרד עם הבדלנים בקטלוניה, כמות העלבונות והאיומים בעמודי פייסבוק הקשורים לדיונים פוליטיים וחברתיים בספרד עלתה ב־43ִ%, על פי מחקר שנערך על ידי החברה Constella Intelligence, חברה העוסקת בהגנות מסכנות דיגיטליות. חוקרי פייסבוק כתבו בדוח הפנימי שלהם ששמעו תלונות דומות ממפלגות בטייוואן ובהודו.

אישה מחזיקה בדגל העצמאות של קטלוניה / צילום: Associated Press, Joan Mateu
 אישה מחזיקה בדגל העצמאות של קטלוניה / צילום: Associated Press, Joan Mateu

בראד פרסקייל, שהיה מנהל אסטרטגיה דיגיטלית בקמפיין הנשיאות של דונלד טראמפ ב־2016, והתגאה בכך שפייסבוק הייתה המקום שבו טראמפ זכה בנשיאות, אמר שהחל לשים לב לשינויים באלגוריתם כבר באמצע 2017, כשהביצועים של סרטונים פוליטיים החלו להידרדר.

"'בריא'", הוא אומר, " הייתה מילת כיסוי ל'אנו צריכים להקטין את ההפצה של סרטונים של טראמפ ושל השמרנים'", הוא אמר בראיון לכתבה זו.

יו"רית המועצה הרפובליקאית הלאומית, רונה מקדניאל, ומנהיג הרוב בבית הנבחרים באותם ימים, קווין מקארתי וכן פארסקייל נפגשו עם מנהלים בפייסבוק ביוני 2018 כדי לשטוח בפניהם את טענותיהם. בפגישה, שכללה את מנהל המדיניות הציבורית בפייסבוק ג'ואל קפלן, נאמר לרפובליקאים שהשינויים באלגוריתם נועדו לפעול נגד הפצת מה שהחברה הגדירה כמידע שגוי, סיפר פארסקייל.

"תוכן מזיק או מטעה עלול להפוך לוויראלי"

באפריל 2019, חוקר נתונים אחד בפייסבוק הציע להקטין את כמות השיתופים מחדש של תוכן של אנשים שאינם חברים או עוקבים של מעלה הפוסט המקורי, כך כתוב במזכר פנימי של החברה.

"בעוד שהפלטפורמה של פייסבוק נותנת לאנשים הזדמנות להתחבר, לשתף ולהיות מעורבים, תופעת לוואי מצערת היא שתוכן מזיק או מטעה עלול להפוך לוויראלי, לעתים קרובות לפני שאנו עולים על זה ויכולים למזער את ההשפעה", כתב החוקר. ""פעילים פוליטיים ומו"לים של אתרי חדשות אומרים לנו שהם מסתמכים בעיקר על תכנים שליליים וסנסציות כשהם כותבים פוסטים בגלל שהשינויים האחרונים שבוצעו באלגוריתם, מעניקים להם עדיפות".

מאוחר יותר, חוקרי המידע בפייסבוק התמקדו במאפיין אחד של השינוי באלגוריתם המכונה "MSI במורד הזרם". השינוי הביא לכך שלפוסטים הייתה סבירות גבוהה יותר להופיע בפיד החדשות של משתמש אם האלגוריתם חישב שאנשים צפויים לשתף או להגיב עליו ככל שהוא עובר הלאה בשרשרת השיתופים מחדש.

מבחנים מוקדמים הראו איך הקטנת מאפיין חדש זה של האלגוריתם בנושאים שנוגעים לבריאות ובנושאים אזרחיים אחרים עזר לצמצם את ההפצה של תוכן שגוי. פייסבוק עשתה את השינוי בקטגוריות האלה באביב 2020.

כשסטפנוב הציגה לצוקרברג את הצעת צוות ההגינות להרחיב את השינוי מעבר לתכנים הקשורים לבריאות ולנושאים אזרחיים - ולכמה מדינות כמו אתיופיה ומיאנמר שם השינויים כבר נעשו - צוקרברג אמר שאינו רוצה לעשות כך אם זה יקטין את מעורבות המשתמשים, כך ניתן ללמוד מהמסמכים.

ג'יימס ברנס, עובד בפייסבוק לשעבר שעזב ב־2019, אמר שפייסבוק קיוותה שמתן עדיפות למעורבות משתמשים בפיד החדשות תקרב בין אנשים. אבל הפלטפורמה הפכה לכל כך מורכבת שהחברה לא הבינה איך השינוי עשוי לחזור אליה באופן הפוך. "אין קליעים יצוקים בכסף שיכולים לעשות זאת בקלות", אמר.

גלובס מפרסם בבלעדיות את סדרת התחקירים של "וול סטריט ג'ורנל" על פייסבוק, שהתבססה על הדלפה של מערך נרחב של מסמכים, מחקרים, מצגות, תכתובות, הודעות דוא"ל ומזכרים פנימיים. מכלול החומרים והכתבות מציגים תמונה שלא הייתה כדוגמתה לגבי המידה שבה החברה מודעת לכשלים ברשת שלה, ועד כמה היא חסרת כל רצון או יכולת לטפל בהם. מהתחקיר ניתן לראות עד כמה החוקרים של פייסבוק זיהו את ההשפעות הרעות של הפלטפורמה בתחומים שונים כגון בריאות הנפש של בני נוער, הקצנת הקיטוב בשיח הפוליטי, סחר בבני אדם ואפילו החרפת מלחמות. לעתים, כך מתגלה, החברה נמנעה מביצוע פעולות מחשש שהן יפגעו בה כלכלית בהמשך ולפעמים, אפילו יוזמות אישיות של המנכ"ל מארק צוקרברג עצמו הוכשלו על ידי המערכות והאלגוריתמים של הרשת החברתית 

צרו איתנו קשר *5988