סם אלטמן, מנכ''ל OpenAI / צילום: Reuters
חברת הבינה המלאכותית OpenAI, החברה שמחזיקה ב-ChatGPT, השיקה באחרונה את מודל הדגל החדש שלה המבוסס בינה מלאכותית ליצירת וידאו - Sora 2. אחרי שהמודל המקורי הושק בשנה שעברה, כעת המודל החדש יכול - לדברי החברה - להתמודד עם משימות קשות במיוחד, כמו סלטות לאחור על גלשן סאפ והמשמעויות הפיזיקליות של תמונה כזו. לדברי OpenAI, המודלים הקודמים עיוותו את המציאות כדי לבצע הנחיה טקסטואלית, וכעת המודל הנוכחי היוא קפיצה מדרגה.
● דרמה באפל: ג'וני סרוג'י, הישראלי הבכיר בחברה, שוקל את המשך דרכו בה
● כפי שנחשף בגלובס: יוסי שינפלד מקים עם ואסט דאטה חוות שרתים ל"ענן ריבוני" בכמיליארד שקל
החברה השיקה בארה"ב ובקנדה אפליקציה לאייפון בשם Sora, שהיא למעשה רשת חברתית שבה אפשר לראות תכנים שנוצרו על-ידי מחולל הסרטונים. על-מנת להיות מוזמנים לרשת החברתית, צריך לקבל קוד הזמנה מחברים שיש להם כבר גישה אליה.
החברה מציינת כי היא דואגת שאנשים יוכלו לראות בדיוק מה שהם רוצים, וכי הם שולטים בפיד שלהם לחלוטין. התוכן, כך טוענת OpenAI, מוטה לטובת האנשים שאתם עוקבים אחריהם ויוצרים איתם אינטראקציה, והאפליקציה מתעדפת תכנים שסביר שתרצו לראות. מאז ההשקה, האפליקציה הצליחה להגיע לראש טבלאות ההורדות באפל.
המנכ"ל סם אלטמן תיאר את ההשקה של המודל החדש כ"נהדרת באמת", ובבלוג שלו הוא כתב כי "זה מרגיש לרבים מאיתנו כמו רגע 'ChatGPT for creativity', וזה מרגיש כיף וחדש". בדבריו הוא הודה כי יש חשש מסוים שמדיה חברתית יכולה להיות ממכרת ותשמש לבריונות, וכי המודל החדש יכול לייצר אפקט של הצפת הפלטפורמות בתכנים דומים ובסרטונים באיכות נמוכה.
דיפ-פייק וזכויות יוצרים
בתקשורת הבינלאומית דווח כי כמה שעות לאחר יציאת המודל, סרטונים רבים שנוצרו דרך Sora 2 השתמשו בדמויות המוגנות בזכויות יוצרים ואף כללו סצנות גרפיות של אלימות וגזענות.
בן קולמן, מנכ"ל ומייסד שותף של Reality Defender, חברה שמייצרת תוכנה לבנקים לזהות הונאות בינה מלאכותית ודיפ-פייק, אמר ל"וושינגטון פוסט" כי "האתגר עם כלים כמו Sora זה שהם הופכים את הבעיה לגדולה יותר בצורה אקספוננציאלי, בגלל שהיא כל-כך זמינה, ובגלל שזה כלי כל-כך טוב".
משתמשים עשו שימוש בדמויות כמו בוב ספוג, ריק ומורטי וסאות'פארק לסרטונים לא אמיתיים, וכתב של ה"וושינגטון פוסט" אף יצר סרטון של אלטמן המנכ"ל כמפקד בצבא במלחמת העולם השנייה. תכנים כאלה כמובן אסורים בפלטפורמה של OpenAI, שכן היא אוסרת על תכנים שמקדמים אלימות ועל תכנים שפוגעים בזכויות יוצרים.
הגרסה הישראלית שעלתה ברשתות היא "סרטון השוקולד" במטוס, אותו סרטון של ישראליות שצעקו על צוות דיילי אוויר כדי לקבל שירות ללא דחייה.
OpenAI צפויה להתמודד עם בעיות שונות בהקשר של זכויות יוצרים - אם הסרטונים יכללו דמויות מצוירות הנמצאות בבעלות חברות מסחריות הקנאיות לסימן המחר שלהם. באחד הסרטונים הפופולריים שדווחו בתקשורת רואים את מנכ"ל החברה, סם אלטמן, נמצא בשדה עם כמה דמויות מ"פוקימון" ואומר: "אני מקווה שנינטנדו לא תתבע אותנו".
יגיבו לבקשות הסרה
כדי להרגיע את הרוחות, אנשי OpenAI מסרו ל-CNBC כי הם ימשיכו לעבוד עם בעלי הזכויות כדי לבלום את היכולת של משתמשים לעשות שימוש בדמויות שמוגנות בזכויות יוצרים, ואף יגיבו לבקשות הסרה מצד החברות. נזכיר כי בעבר דיסני ויוניברסל תבעו את Midjourney על כל שמחולל התמונות המבוסס בינה מלאכותית איפשר לייצר תמונות המבוססות על דמויות שלהם.
ב"גארדיאן" לדוגמה ניסו את הכלי ויצרו מספר סרטונים של ירי המוני, הפחדות והפצצות, שבהם אנשים רצו מבוהלים ובקמפוסים של מכללות. בקשה אחרת של ה"גארדיאן" נגעה לסצנה מאזורי מלחמה כמו עזה, שם ילדים שיוצרו על-ידי בינה מלאכותית דיברו על שריפת הבית שלהם.
קריסטליה גרסיה, פרופסור לתקשורת, בידור ומדיה בבית הספר למשפטים של ג'ורג'טאון, אמרה ל"וול סטריט ג'ורנל" כי "בהתחשב בתחרות העזה במרחב, אני חושבת שהם חושבים - אולי נבקש סליחה במקום לבקש רשות".
מת'יו סמסון, מייסד Kickflix, סוכנות שמפיקה סרטים בעזרת בינה מלאכותית, השתמש ב-Sora כדי ליצור פרסומת טלוויזיה מזויפת לסט הצגת ילדים בשם "האי הסודי" עם "חדר עיסוי נסתר", בהתייחסו לעבריין המין המורשע ג'פרי אפשטיין, כך דווח ב"וושינגטון פוסט". סמסון אמר כי "בהחלט אין מספיק פילטרים כרגע. לא משנה כמה פילטרים, תמיד יש פתרונות עוקפים".