גרוק מסתבך. מאסק שיווק את הצ'אטבוט כאלטרנטיבה "חופשית" ופחות מצונזרת למתחרים / צילום: Shutterstock
שבועות ספורים לאחר שהשיקה הרשת החברתית X עדכון משמעותי ליכולות עריכת התמונות של הצ'אטבוט "גרוק", הצטברו עדויות מדאיגות על ניצול לרעה של הכלי לצורך יצירת תמונות מיניות מזויפות של נשים וקטינים.
הפרשה, שהחלה בדיווחים ברשתות החברתיות, הפכה בימים האחרונים לנושא מרכזי בסדר היום של ממשלות ברחבי העולם, המדגישות את הסכנה הטמונה בכלי בינה מלאכותית המושקים ללא פיקוח הדוק מספיק.
● "פיטורי בינה מלאכותית הם עובדה מוגמרת, אבל אף אחד לא כותב על גיוסי העובדים"
● מה באמת חושבים המוחות המבריקים בעולם על בינה מלאכותית
חברת xAI של אילון מאסק ניצבת כעת בפני אחד המשברים הרגולטוריים והאתיים החמורים ביותר מאז הקמתה.
ממשלות מתערבות
הסערה החלה לאחר ש־X השיקה בסוף דצמבר אפשרות חדשה לעריכת תמונות קיימות באמצעות פקודות טקסט פשוטות דרך גרוק. תוך זמן קצר גילו משתמשים כי המערכת נענית לבקשות להסיר בגדים מתמונות של נשים אמיתיות או לשנות את המראה שלהן ללבוש מינימלי, תוך עקיפת מגבלות הבטיחות המקובלות.
בדיקה נרחבת של רויטרס חשפה כי בתוך דקות ספורות הצליחו משתמשים לייצר למעלה ממאה דימויים פוגעניים. חמור מכך, אותרו מקרים שבהם המערכת יצרה תוכן מיני המערב דמויות של קטינים, מעשה המהווה עבירה פלילית חמורה.
התגובה הבינלאומית הייתה מהירה וחריפה. בהודו שיגר משרד הטכנולוגיה מכתב רשמי להנהלת X ובו דרישה לדיווח על הצעדים שננקטו למניעת הפצת תכנים פדופיליים ופוגעניים, תוך אזהרה מפני סנקציות משפטיות. במקביל, שרים בממשלת צרפת פנו לנציבות האירופית בטענה כי מדובר בהפרה בוטה של חוק השירותים הדיגיטליים המחייב פלטפורמות ענק לפעול לצמצום תוכן בלתי חוקי. גם מלזיה הצטרפה למאבק והודיעה על פתיחת חקירה רשמית בגין יצירת תוכן פוגעני בניגוד לחוק המקומי.
כשל בטיחותי שהיה ניתן למנוע
מומחים לבטיחות בינה מלאכותית אמרו בין היתר לרויטרס ובלומברג כי ההתפתחות הזו לא הפתיעה אותם. לדבריהם, כבר בעבר הועברו לחברה אזהרות שלפיהן האפשרות לערוך תמונות של אנשים אמיתיים עלולה לאפשר יצירת דימויים מיניים ללא הסכמה. עוד ציינו כי הבחירה להציג את גרוק ככלי עם פחות מגבלות, ואף לאפשר תוכן מיני מרומז, הגבירה את הסיכון לשימוש בעייתי בכלי, שכן מאסק שיווק את גרוק כאלטרנטיבה "חופשית" ופחות מצונזרת למתחרותיה.
גישה זו, שנועדה לכאורה לקרוא תיגר על ה"פוליטיקלי קורקט" של ענקיות עמק הסיליקון, היא לדבריהם זו שסללה את הדרך לשימוש לרעה. ועבור מי שנפגעו, ההשלכות אינן תיאורטיות. נשים שתמונותיהן שונו והופצו ללא הסכמתן תיארו תחושת השפלה, פחד מחשיפה ציבורית ורצון להיעלם מהרשת, כך לפי רויטרס.