בסוף השבוע התכנסו כמה מהיריבים הבולטים בתעשיית הבינה המלאכותית (בהם דריו אמודיי, סם אלטמן ואילון מאסק) - סביב קריאה משותפת: יש לנהל בזהירות רבה יותר את קצב ההתקדמות של הטכנולוגיה שהם עצמם מפתחים. החשש הוא שהיכולת לפקח על פעילות ה־AI ולהבטיח שתפעל בהתאם לכוונת האדם לא תתקדם באותו קצב כמו יכולותיהם של המודלים עצמם.
● על רקע חששות גוברים מבטיחות הבינה המלאכותית: OpenAI לא תצא להנפקה השנה
● ההחלטות הקטנות ב-AI שישדרגו לכם את השנה
האירוע המרכזי שהחריף את הדיון בשבוע שעבר היה הודעת ההתפטרות של ג'ייקוב קוקסון מאנתרופיק. קוקסון פרסם ברשת X פוסט שבו טען כי שתי החברות אינן פועלות באחריות וכי הן "מהמרות על החיים שלנו". בהמשך הוא הזהיר כי האנשים שמפתחים את הטכנולוגיה מאמינים שהיא עלולה להביא למותם של כלל בני האדם עד סוף העשור. בתגובה, קרא מנכ"ל אנתרופיק דריו אמודיי להאט את המרוץ.
גם התשובה הפוליטית לא איחרה להגיע. יום לאחר מכן, אמר נשיא ארה"ב דונלד טראמפ כי הוא רוצה לשמר את ההובלה האמריקאית מול סין. הוא הותיר מקום למגבלות בטיחות, אך דחה את הקריאות להאטה. כך נחשפה השאלה שמאחורי ההצהרות: אם ראשי התעשייה מאמינים שהמשך המרוץ עלול להיות מסוכן, מה הם מוכנים להקריב כדי לצמצם את הסיכון?
הקושי להאט פעילות
המרוץ בין מעבדות ה־AI מציג בעיית תיאום מוכרת מתורת המשחקים. כמה שחקנים עשויים להעדיף מצב שבו כולם נוקטים זהירות, ובכל זאת להמשיך להאיץ, משום שכל אחד חושש שהאחרים ינצלו את עצירתו. במקרה הזה, חברה שמאריכה בדיקות בטיחות עלולה לגלות שבינתיים המתחרה השיקה מודל מתקדם יותר, חתמה על חוזים ומשכה אליה חוקרים.
לכך מצטרף מבנה ההוצאות של התעשייה. פיתוח מודלים דורש השקעות במחשוב, בתשתיות ובכוח אדם, שחלקן נקבעות זמן רב לפני שהמוצר מניב הכנסות. דחיית השקה אינה בהכרח עוצרת את ההוצאות. היא עלולה לדחות את ההכנסות שאמורות לסייע במימונן ולהקשות על החברה להצדיק את הערכת השווי שלה בגיוס הבא.
תוכניות ההנפקה הופכות את המתח למוחשי עוד יותר. משקיעים מתמחרים חברה גם לפי ההכנסות שהם מצפים שתייצר בעתיד. אם המוצרים הבאים יושקו מאוחר יותר, או יוצעו עם מגבלות שיצמצמו את השימוש בהם, הציפיות האלה עשויות להשתנות. אלטמן אמר, כי OpenAI לא תונפק ב־2026, וקשר את העיתוי לעבודת הבטיחות הנדרשת. נכון להיום, אין בכך אישור שגם אנתרופיק הקפיאה את תוכניות ההנפקה שלה.
בוול סטריט ובקהילת ההון סיכון מזהירים כבר תקופה מפני הפער הזה. ג'ים קובלו, ראש מחלקת מחקר המניות הגלובלי בגולדמן זאקס, חידד זאת כשהסביר שכדי להצדיק הוצאות עתק על מחשוב ותשתיות, החברות חייבות להציג החזר מהיר.
אבל כאן מתבקשת גם הביקורת על החברות. אם הסיכון אכן חמור כפי שמציגים אותו מנהליהן, החשש לאבד נתח שוק אינו תשובה מספקת להמשך נטילתו. טיעון התחרות מסביר מדוע קשה להאט, אבל הוא אינו פוטר מאחריות להחלטה להמשיך. כל עוד החברות אינן מפרטות אילו תוצאות בדיקה יגרמו להן לדחות מוצר, קשה להעריך איזה משקל הן נותנות לבטיחות כשהיא מתנגשת ביעדים עסקיים.
גם אין הכרח להניח שהחשש הבטיחותי והשיקול הכלכלי סותרים זה את זה. מנהלים יכולים לחשוש באמת מהטכנולוגיה, ובכל זאת לתת עדיפות להכנסות או להובלה תחרותית בהחלטה מסוימת. המבחן הוא הצעדים שהם נוקטים והוויתורים שאותם מנהלים מוכנים לעשות.
מצדיק את הסיכון?
מבחינת החברות, כללים אחידים עשויים לצמצם את "מחיר הזהירות". אם כל המעבדות נדרשות לעבור בדיקות דומות לפני השקה, חברה אחת אינה נושאת לבדה בעיכוב בזמן שמתחרותיה ממשיכות כרגיל.
אולם מה שעשוי לפתור בעיה בתוך השוק האמריקאי יוצר קושי בזירה הבינלאומית. חוק אמריקאי יכול לחייב את החברות המקומיות, אך הוא אינו מבטיח שמעבדות בסין יפעלו באותם תנאים. זו ליבת הטיעון של טראמפ וג'ונסון: האטה כפויה בארה"ב עלולה לאפשר ליריבה להתקדם ולהשיג יתרון טכנולוגי, כלכלי וביטחוני.
ג'ונסון אמר כי הוא מתנגד להקפאת חירום, וכי האחריות לבטיחות מוטלת גם על החברות. לדבריו, הן עצמן חלוקות לגבי אמצעי ההגנה הדרושים, והקונגרס מבין את פרטי הטכנולוגיה פחות ממפתחיה. הוא הציע פגישה בין ראשי התעשייה, הנשיא והמחוקקים.
מנגד, מחוקקים דמוקרטים טוענים שהמרוץ מול סין אינו יכול להצדיק כל רמת סיכון. הסנאטור רובן גייגו הדגיש שמערכת מסוכנת לא תבחין בין אמריקאים לסינים. לפי הגישה הזו, התחרות הבינלאומית מחזקת דווקא את הצורך בתיאום, משום שהשלכותיה של תקלה חמורה עשויות לחצות גבולות.
היתרון של הענקיות
אבל גם אם יושג תיאום, השאלה תהיה מי מעצב אותו. היזם והמשקיע דייוויד סאקס, טען שהחברות אינן צריכות להמתין לאישור כדי להאט. הוא האשים אותן בניסיון להתנות התנהגות אחראית באימוץ כללים המועדפים עליהן. מאחורי הביקורת עומד חשש כלכלי מוכר: חברות מובילות יכולות לתמוך ברגולציה שמכבידה גם עליהן, אם היא מכבידה עוד יותר על מתחרות קטנות.
הביקורת של סאקס אינה עומדת לבדה. היא מתחברת לחשש רחב בקרב מדענים וכלכלנים מפני "שבי רגולטורי" (Regulatory Capture). פרופ' אנדרו אנג, מחלוצי תחום ה-AI, תקף בעבר את הקריאות להטלת מגבלות דרקוניות והגדיר אותן כניסיון לחנוק תחרות.
זו המשמעות של ביצור מעמדן של הענקיות: פחות חברות יוכלו להתחרות בהן, והלקוחות יישארו תלויים במספר מצומצם של ספקים. לאורך זמן, תחרות חלשה יותר עלולה לצמצם את הלחץ להוריד מחירים, לשפר שירות ולאפשר מעבר בין מוצרים.
אין בכך הוכחה שזו מטרת ההצעות של אמודיי. ההשפעה תלויה בפרטים: האם הדרישות יחולו רק על המערכות בעלות היכולות המסוכנות ביותר, האם העלות תהיה מותאמת לסיכון והאם תתאפשר בדיקה נגישה גם לחברות קטנות.
בסופו של דבר, המבוי הסתום שנוצר בספטמבר 2026 אינו אידיאולוגי אלא מבני: איש אינו מוכן לשלם על ההאטה. החברות לא יוותרו על תמחור ההנפקות, וושינגטון לא תוותר על היתרון מול בייג'ינג והארגונים נאלצים להמשיך להטמיע כלים עוצמתיים אך לא תמיד יציבים. כל עוד לא יימצא מודל שמפצה שחקנים על נקיטת זהירות, מרוץ החימוש של הבינה המלאכותית ימשיך לדהור קדימה, בדיוק בקצב שממנו מזהירים אלה שיושבים ליד ההגה.
