פייסבוק מסבירה למה מערכות הבינה המלאכותית שלה לא חסמו את סרטון הטבח בניו זילנד

פייסבוק הסבירה ב פוסט בבלוג הרשמי שלה מדוע מערכות הבינה המלאכותית של החברה לא חסמו את סרטון הלייב של הטבח בניו זילנד • אחר שמערכות בינה מלאכותית דורשות דאטה רב כדי לאמן אותן, יש צורך באלפי דוגמאות כדי שמערכת תוכל לזהות תכנים מאותו סוג

מנכ“ל פייסבוק מארק צוקרברג מעיד בפני הסנאט / צילום: רויטרס Aaron P. Bernstein
מנכ“ל פייסבוק מארק צוקרברג מעיד בפני הסנאט / צילום: רויטרס Aaron P. Bernstein

פייסבוק הסבירה בפוסט בבלוג הרשמי שלה מדוע מערכות הבינה המלאכותית של החברה לא חסמו את סרטון הלייב של הטבח בניו זילנד. הרשת החברתית מתמודדת עם ביקורת רבה בנושא מאז הטבח. לפי הפוסט, מאחר שמערכות בינה מלאכותית דורשות דאטה רב כדי לאמן אותן, יש צורך באלפי דוגמאות כדי שמערכת תוכל לזהות תכנים מאותו סוג. לפי פייסבוק, מאחר שמקרים כמו הטבח בניו זילנד הם נדירים, לא הייתה אפשרות לספק למערכות כמויות גדולות של דאטה מאירועים דומים. אתגר נוסף אליו הצביעו בפייסבוק הוא הקושי לאמן מערכת להבחין בין התוכן הזה לבין תכנים לא מזיקים אך דומים מבחינה ויזואלית כמו סרטונים ממשחקי וידאו.

במקרים בהם בינה מלאכותית לא מזהה תכנים, פלטפורמות כמו פייסבוק מסתמכות על דיווח מהמשתמשים, אך לדברי פייסבוק אף אחד מ-200 המשתמשים שצפו בשידור החי בזמן אמת לא דיווח עליו, אך הסרטון שפרסם התוקף הוסר מספר דקות לאחר פניית משטרת ניו זילנד.

בנוסף, פייסבוק הסבירה מדוע גם אחרי שהתוכן המקורי נחסם, סרטונים דומים המתעדים את הירי המשיכו להיות מופצים בפלטפורמה. לדברי פייסבוק, לפני שנודע לרשת החברתית על הסרטון, משתמש באתר שיתוף הקבצים 8chan פרסם בו לינק עם העתק של הסרטון. ככל הנראה, אותו לינק הביא לתפוצה של הסרטון גם אחרי שהמקורי הוסר, כאשר חלק מהסרטונים שהועלו לפייסבוק היו שונים מהמקורי - ערוכים, מוקלטים באמצעות הטלפון מתוך מסך המחשב ועוד. בסך הכל פייסבוק אמרה כי 800 גרסאות שונות של הסרטון נמצאו ונחסמו. פייסבוק הצהירה גם כי ב-24 השעות הראשונות, הוסרו יותר מ-1.2 מיליון סרטונים של המתקפה שעדיין היו בשלב ההעלאה לאתר, ולכן לא הגיעו למשתמשים. כ-300 אלף העתקים נוספים הצליחו להתפרסם אך הוסרו לאחר מכן.

פייסבוק הצהירה כי היא מנסה כעת לנקוט בדרכים שונות כדי להתמודד עם הבעיות שהמקרה האיר, כמו להשתמש בטכנולוגיה לזיהוי אודיו כדי לאתר גרסאות שונות של אותו סרטון. בבלוג נכתב שמאז הטבח, בפייסבוק עבדו באופן ישיר עם משטרת ניו זילנד כדי לתמוך בחקירה, ומכיוון שהחקירה עדיין נמשכת, המשטרה ביקשה שלא לשתף בפרטים מסוימים.

השבוע, ראש ועדת בטחון הפנים בקונגרס האמריקאי ביקש מפייסבוק, טוויטר, יוטיוב ומיקרוסופט להגיע ולהסביר איך הם מתכוונים למנוע הפצה של סרטונים כאלו בפלטפורמות שלהם בעתיד, וגם ראש ממשלת ניו זילנד, ג'סינדה ארדרן, הצהירה כי היא רוצה לשוחח עם פייסבוק על הנושא.

רוצה להשאר מעודכן/ת בנושא גלובס טק?
✓ הרישום בוצע בהצלחה!
צרו איתנו קשר *5988