ג'ייקוב קוקסון, חוקר בינה מלאכותית שעבד ב־OpenAI ובאנתרופיק, הודיע על התפטרותו מאנתרופיק ויצא בביקורת חריפה נגד שתי החברות. "אף אחת מהחברות אינה פועלת באחריות. הן דוהרות היישר לעבר בינת־על שמשפרת את עצמה, ומהמרות על החיים שלנו", כתב בפוסט ברשת X.
לפי דיווח ב"וול סטריט ג'ורנל", קוקסון החליט לעזוב את תעשיית הבינה המלאכותית כולה, מחשש שהמערכות שהחברות מפתחות ייצאו משליטה.
● ביטול עסקת אנתרופיק־דקארט ותמרור האזהרה לחברות ה־AI הישראליות
● כמעט תשעה מכל עשרה דולרים שגויסו בהייטק הישראלי ב־2025 זרמו לחברות AI
קוקסון, בריטי בן 27, כתב כי בשלוש השנים האחרונות הוא עסק בשתי החברות במחקר בתחום האימון המקדים של מודלים, השלב שבו הם לומדים מכמויות עצומות של נתונים. עוד לפי העיתון, הוא עבר מוקדם יותר השנה מ־OpenAI לאנתרופיק דווקא בשל הדגש שהיא שמה על בטיחות. כעת הוא סבור כי גם מאמציה אינם מספיקים לנוכח התחרות בענף.
"אל תמעיטו בעוצמתה של הטכנולוגיה הזאת", כתב. לדבריו, המערכות עשויות בקרוב לעלות על היכולות האנושיות, לפרוץ למערכות מחשוב, לחולל שינויים מהירים בתחומי ידע ולצבור כוח ומשאבים
"זה לא תרגיל שיווקי"
אחת הטענות הבולטות בפוסט נוגעת לפער שקוקסון מתאר בין ההתבטאויות הפומביות של אנשי התעשייה לבין האופן שבו הם תופסים את הסיכונים. "האנשים שבונים AI מאמינים בכנות שהיא עלולה להרוג את כולנו עד סוף העשור. זה לא תרגיל שיווקי", כתב. לטענתו, מנהלים וחוקרים בכירים רבים ממתנים את ניסוחיהם בתקשורת כדי להישמע שקולים.
קוקסון הבחין בין שתי החברות שבהן עבד. לטענתו, רבים ב־OpenAI לא הפנימו לעומק את ההשלכות האפשריות על האנושות. באנתרופיק, לדבריו, מבינים היטב את הסיכונים, אך לכודים במרוץ להגיע ראשונים.
בראיון ל"וול סטריט ג'ורנל" אמר קוקסון כי הוא התרשם שמאמצי הבטיחות באנתרופיק כנים. עם זאת, הוא הגיע למסקנה שללא התערבות ממשלתית או האטה מתואמת בענף, אף חברה אינה יכולה לפתח באחריות בינה מלאכותית שתעלה על בני אדם במגוון משימות. לדבריו, התחרות בין החברות, לרבות מול מתחרות סיניות, מחייבת אותן להתפשר על בטיחות.
מי מחליט כמה מהר להתקדם?
במוקד האזהרה של קוקסון עומדת האפשרות שמערכות AI יוכלו לשפר את עצמן, וכך להאיץ את התפתחותן מעבר ליכולת של בני האדם להבין את פעולתן ולפקח עליהן. הוא חושש שמערכות כאלה יוכלו בסופו של דבר גם לסרב להוראות אנושיות.
בפוסט מתח קוקסון ביקורת גם על כך שהחלטות בעלות השלכות רחבות כל־כך מתקבלות בתוך חברות פרטיות. לדבריו, ההשתתפות במרוץ היא הימור הנובע מביטחון מופרז, שלא ראוי להחליט עליו בערוץ הסלאק של חברה. הוא טען כי הניסיון לפתור במהירות את בעיית ההתאמה של מערכות AI לכוונות ולערכים אנושיים מחייב ביטחון יוצא דופן שאין דרך טובה יותר להתקדם.
לצד האזהרות, קוקסון הביע אופטימיות לגבי האפשרות לתיאום בין מעבדות הבינה המלאכותית. לפי ה"וול סטריט ג'ורנל", הוא נמנה עם יותר מאלף חוקרים שחתמו על הצהרה הקוראת לתיאום ממשלתי שיאפשר להאט את הפיתוח בעת הצורך. בין החותמים גם מנכ"ל אנתרופיק דריו אמודיי והמדען הראשי של OpenAI יאקוב פצ'וצקי.
עזיבתו של קוקסון מגיעה בזמן שאנתרופיק נערכת להנפקה ומכוונת לפי דיווחים לשווי של 2 טריליון דולר.
את הפוסט שלו בx סיים קוקסון בפנייה לחוקרים אחרים בתעשייה, וקרא להם לשקול את אחריותם להתפתחויות בשנים הקרובות. "האם אתם צריכים להוריד את הראש כי 'זה קורה בכל מקרה', או לנצל את הרגע הזה כדי לדרוש תנאים אחרים?".
