חוקר לשעבר בגוגל דיפמיינד, מצטרף לאזהרות מתוך תעשיית הבינה המלאכותית מפני הסכנות שבהמשך הפיתוח המואץ. בילאל צ'וגטאי, שעסק בחקר בטיחות הבינה המלאכותית, פרסם ביממה האחרונה פוסט שבו הזהיר כי הזמן למנוע תוצאות הרסניות הולך ואוזל. "בגוגל הייתי עד לפיתוח הבינה המלאכותית מקרוב", כתב. "אני מאמין ברצינות של־AI יש פוטנציאל להרוג את כולנו, ושייתכן שהזמן שנותר לנו למנוע את התוצאה הזאת הולך ואוזל".
● האזהרות מפני ה־AI מציפות את השאלה הגדולה: מי ישלם את מחיר ההאטה
● על רקע חששות גוברים מבטיחות הבינה המלאכותית: OpenAI לא תצא להנפקה השנה
לפי רויטרס, צ'וגטאי עבד בדיפמיינד כמהנדס מחקר ועזב ביולי 2026, כך על פי פרופיל הלינקדאין שלו. את האזהרה הפומבית פרסם השבוע, אך בפוסט לא ציין במפורש כי החששות הם הסיבה להתפטרותו.
היכולות מתקדמות, השליטה מתקשה להדביק את הקצב
בלב האזהרה של צ'וגטאי עומד הפער בין השיפור ביכולות הבינה המלאכותית לבין היכולת להבטיח שהמערכות יפעלו בהתאם למטרות אנושיות. לדבריו, כשהחל לעסוק בתחום בתחילת 2022, המערכות כמעט שלא היו שימושיות. כעבור ארבע שנים, הוא מצביע על קבוצות של סוכני AI של OpenAI הפותרות בעיות מתמטיות ותיקות, ולצידן על מקרים של פעולה שיוצאת משליטה אנושית. כדוגמה לסכנה הוא מזכיר בפוסט את תקרית האגינג פייס, שבה סוכני AI של OpenAI פעלו באופן עצמאי ופרצו למערכות החברה ללא הוראה לעשות זאת. הוא רואה בכך המחשה לחשש רחב יותר: ככל שהמערכות יהיו בעלות יכולות גבוהות יותר, גם הפעולות שיוכלו לבצע בניגוד לכוונת מפעיליהן עלולות להיות מסוכנות יותר.
צ'וגטאי מעריך כי ייתכן שבתוך שנים ספורות יצליחו חברות לפתח "בינת־על", כלומר מערכות שיעלו על היכולות האנושיות בכל תחום. לדבריו, אין לו ביטחון שמערכות כאלה יפעלו כפי שבני האדם רוצים. הוא מזהיר כאמור כי הן עלולות לצאת משליטה ולבצע פעולות שיביאו לאובדן קבוע של השליטה האנושית ואף בהמשך בתרחיש קיצון לפגיעה באנושות.
תחום המחקר שבו עסק, המכונה Alignment, נועד להתמודד עם הבעיה הזאת: להבטיח שמערכות AI יפעלו בהתאם לכוונות ולמטרות של בני האדם. לטענתו, הבעיה עדיין רחוקה מפתרון. "ההבנה הנוכחית שלנו כיצד לאמן מערכות AI שבאמת ירצו את מה שאנחנו רוצים היא בסיסית ביותר", כתב. לדבריו, יכולות המודלים המתקדמים משתפרות מהר בהרבה מההבנה כיצד להבטיח התאמה כזו.
אזהרות נוספות מתוך המעבדות
הפוסט מתפרסם לאחר שג'ייקוב קוקסון, חוקר באנתרופיק, הודיע בשבוע החולף גם הוא על התפטרותו. לפי רויטרס, קוקסון אמר גם הוא כי אחת הסיבות לעזיבתו היא שאנשים המפתחים את הטכנולוגיה מאמינים שהיא עלולה להרוג את כולנו עד סוף העשור.
במקביל, אוון הובינגר, חוקר באנתרופיק, הגיב לדברים ואמר כי להערכתו הסיכוי שבינה מלאכותית תהרוג את כלל בני האדם בעשור הקרוב גבוה מ־10%.
גם ג'וש אנגלס, שעבד בצוות הבטיחות של דיפמיינד, פרסם אזהרה. לפי דיווחים, אנגלס הודיע ב־12 בספטמבר כי הצטרף לארגון METR, העוסק בהערכת מערכות AI, לאחר שדחה הצעות מאנתרופיק ומ־OpenAI. "אני חושב כעת שיש סיכוי מפחיד שמערכות AI יגרמו לנזק עצום בחמש השנים הקרובות", כתב, והוסיף שאינו יודע מה ההסתברות המדויקת.
לצד האזהרות, צ'וגטאי כתב כי הוא אופטימי באשר לאפשרות לפתח בינה מלאכותית בבטחה. אלא שלדבריו, הדבר מחייב תיאום בין החברות, האטה לקצב שהחברה האנושית מסוגלת להתמודד איתו ושקיפות רבה יותר בנוגע לפיתוח. "אנחנו צריכים להתאים את קצב פיתוח הבינה המלאכותית לקצב שהחברה יכולה להתמודד איתו, ושבו אפשר לטפל בסיכונים המתעוררים לפני שנגרם נזק קיצוני", כתב.
לתשומת לבכם: מערכת גלובס חותרת לשיח מגוון, ענייני ומכבד בהתאם ל
קוד האתי
המופיע
בדו"ח האמון
לפיו אנו פועלים. ביטויי אלימות, גזענות, הסתה או כל שיח בלתי הולם אחר מסוננים בצורה
אוטומטית ולא יפורסמו באתר.
כתבות
ני"ע
