מנכ״ל OpenAI, סם אלטמן, הודיע כי החברה לא מתכוונת לצאת להנפקה השנה, על רקע החששות הגוברים מבטיחות הבינה המלאכותית.
● דיווח: אנבידיה במגעים להשקעה של 10 מיליארד ד' בהנפקת אנתרופיק
● אמריקה רוצה AI אבל אף אחד לא רוצה את חוות השרתים בחצר האחורית שלו
ב- CNBC מדווחים כי בריאיון ל־ Fortune אמר אלטמן כי הנפקה בשלב זה תהיה "לא נבונה". משמעות הדבר היא שההנפקה, שנחשבת לאחת המצופות בהיסטוריה, עשויה להידחות לפחות עד 2027. רק בחודש שעבר אמרה סמנכ״לית הכספים של OpenAI, שרה פריאר, כי החברה עשויה לצאת להנפקה ב־2027 או אף מוקדם יותר, אם קצב הצמיחה העסקית יימשך .
אתמול (שבת) פרסם מנכ״ל אנתרופיק, דריו אמודיי, מאמר הקורא לחברות ה-AI להאט את קצב שדרוג המודלים המתקדמים שלהן. הוא הציע תוכנית בת שלושה שלבים: לאפשר לגורמי הערכה חיצוניים גישה נרחבת כדי לבחון את אמצעי הבטיחות ולדווח על אירועים חריגים; ליצור סטנדרטים משותפים לבטיחות בין חברות AI במדינות דמוקרטיות; ולקדם שיתוף פעולה בנושא בין ממשלות דמוקרטיות ואוטוריטריות. אמודיי הדגיש כי "האטה" אינה פירושה הפסקת הפיתוח, אלא מתן זמן מספיק לבדיקת המודלים, התאמתם לערכים אנושיים והבטחת בטיחותם.
הקריאה זכתה לתמיכה מפתיעה מצד אלטמן ומאוחר יותר גם מצד אילון מאסק, שלמרות היריבות העסקית ביניהם הסכימו כי יש צורך להאט את קצב פיתוח יכולות ה-AI המתקדמות. באותה רוח, המדען הראשי של OpenAI יאקוב פחוצקי, הזהיר לאחרונה כי אף חברת AI לא פתרה עדיין במידה מספקת את בעיות ה-alignment והניטור, ולכן קשה להצדיק המשך התרחבות בקצב המרבי. הוא הביע תקווה כי האטה וולונטרית תהפוך לנורמה עד שייקבעו סטנדרטים משותפים של בטיחות.
החששות אינם מוגבלים לתעשייה: גם בוושינגטון גובר הלחץ מצד מחוקקים משתי המפלגות לקדם רגולציה, בדיקות ואמצעי הגנה, במיוחד לאחר מתקפות סייבר שבוצעו ללא שליטה אנושית ישירה. במקביל, קהילות ברחבי ארה״ב מתנגדות להקמת מרכזי נתונים של AI בשל צריכת החשמל והמים שלהם. אמודיי מדגיש כי הוא עדיין מאמין שבינה מלאכותית יכולה לשפר באופן דרמטי את איכות החיים, אך סבור שהאטה של שנה או שנתיים, שתנוצל לשיפור מנגנוני הבטיחות והפיקוח, עשויה להפחית משמעותית את הסיכון לאירועים קטסטרופליים. מנגד, הוא מזהיר שהאטה מוגזמת עלולה להעניק יתרון למדינות אוטוריטריות.
