"אנחנו חייבים להאט את הקצב", כך כתב מנכ"ל אנתרופיק דריו אמודיי במאמר שפורסם היום (ש'), ובו הפציר בחברות בינה מלאכותית להאט את הקצב שבו הן משפרות את יכולות המודלים שלהן. הצעד מגיע על רקע קבוצה גדלה והולכת של חוקרים שקוראת להאטה מתואמת.
● אמריקה רוצה AI אבל אף אחד לא רוצה את חוות השרתים בחצר האחורית שלו
● אנתרופיק חושפת מקרה רביעי שבו קלוד פרץ למערכות מחשוב
אמודיי הציע תוכנית בת שלושה שלבים, שלדבריו תסייע למתן את קצב הפיתוח מבלי "להקריב את היתרון המסחרי או את ההובלה של ארצות הברית בבינה מלאכותית", אם כי הוא הודה שחלק מהשלבים עשויים להיות קלים יותר להשגה מאחרים.
● למאמר המלא של מנכ"ל אנתרופיק דריו אאמודיי
אנתרופיק נערכת באופן פעיל למה שצפוי להיות הנפקה ראשונית לציבור היסטורית, אם כי החברה לא חשפה רשמית מתי היא מתכננת להנפיק. היום פורסם דיווח של רויטרס לפיו אנבידיה במגעים להשקעה של 10 מיליארד דולר בהנפקת אנתרופיק.
"היתרונות יושגו רק אם נבנה את הטכנולוגיה בדרך הנכונה"
אנתרופיק התחייבה "באופן חד-צדדי" לשלב הראשון של התוכנית, כתב אמודיי, המעניק לבודקים חיצוניים גישה לחברה כדי לאמת פרקטיקות בטיחות ולדווח על תקריות. השלב השני מעודד חברות AI מובילות במדינות דמוקרטיות לתאם ולהגדיר תקני בטיחות משותפים, והשלב השלישי קורא לתיאום בין ממשלות דמוקרטיות לממשלות סמכותניות (אוטוקרטיות).
"למען הסר ספק, קביעת קצב (האטה) אינה שכזו שמשמעותה עצירת אימון המודלים או ההתקדמות הטכנולוגית, אלא הבטחה שהחברות לוקחות מספיק זמן כדי להתאים ולאבטח את המודלים שלהן, ושבודקים חיצוניים יאשרו זאת", כתב אמודיי.
אמודיי כתב כי בעוד שהרעיון של עצירה או האטה של פיתוח ה-AI הועלה כבר מאז 2023, היה בזה "מעט מאוד היגיון" באותה עת. הוא הסביר כי המודלים לא היו חזקים מספיק כדי לפעול בעולם האמיתי באותה נקודת זמן, והם גם לא היו מסוגלים עדיין ל"הונאה משמעותית, מניפולציה, רמאות או מתקפות סייבר"."אני ממשיך להאמין שבינה מלאכותית יכולה לשפר באופן עצום את איכות חיי האדם. הרצון שלי להשיג את היתרונות הללו לא דעך", כתב אמודיי. "אך היתרונות יושגו רק אם נבנה את הטכנולוגיה בדרך הנכונה, וכל עוד אנו ננצל היטב את הזמן שנרוויח זה שווה את המאמץ לנקוט בזהירות מכוונת ויוצאת דופן כדי לעשות זאת נכון".
המאמר של אמודיי התפרסם לאחר שחוקר באנתרופיק עורר סערה ברשתות החברתיות השבוע כשאלפי אנשים נחשפו להודעתו כי התפטר מעבודתו בחברה. ג'ייקוב קוקסון, שעבד בעבר גם כחוקר במתחרה הראשית של אנתרופיק, OpenAI, אמר כי התפטר מתוך דאגה שאנתרופיק ו-OpenAI "מהמרות על החיים שלנו". הוא אמר שהאנשים שבונים בינה מלאכותית "מאמינים באמת ובתמים שהיא עלולה להרוג את כולנו עד סוף העשור".
