"אנחנו מאמינים שהעולם צריך לקבל את העובדה שכמה דברים רעים יקרו, בתמורה ליתרונות של הטכנולוגיה הזו". כך אמר מנכ"ל OpenAI סם אלטמן אמש (א') בראיון ל-Politico, שבו התייחס למחיר שמביאה איתה ההתפתחות המהירה של הבינה המלאכותית, וגם לפערי הגישות בינו לבין מנכ"ל אנתרופיק דריו אמודיי.
● בכיר נוסף עוזב את OpenAI ומזהיר: "הזמן לניסוי וטעייה נגמר"
● חשיפת התשקיף של אנתרופיק מעלה חשש מבועת AI. האם הוא מוצדק?
אלטמן מנה בין אותם "דברים רעים" הונאות, שימוש לרעה בטכנולוגיה ופריצות למערכות מחשב. לדבריו, גם האפשרות למנוע לחלוטין נזקים כאלה לא בהכרח מצדיקה הגבלות נרחבות על השימוש ב-AI. הוא הסביר כי להערכתו אנשים יעשו באמצעות הטכנולוגיה "בסדרי גודל יותר דברים טובים מדברים רעים".
עם זאת, אלטמן הבחין בין נזקים שנגרמים כתוצאה משימוש לרעה בטכנולוגיה לבין תרחישים אותם הגדיר "קטסטרופליים באמת", ובראשם מצב שבו בני אדם יאבדו באופן משמעותי את השליטה על מערכות AI.
"פשרה בלתי מתקבלת על הדעת"
במהלך הראיון נשאל אלטמן גם על אמודיי, שהפך בשנים האחרונות לאחד הקולות הבולטים בתעשייה המזהירים מפני הסיכונים של מערכות AI מתקדמות. אלטמן אמר כי יש "הרבה מרחק" בין תפיסות העולם שלהם, אף שהוא מסכים עם חלק מהאזהרות שמשמיע מנכ"ל אנתרופיק.
אחת מנקודות המחלוקת נוגעת לאופן שבו צריך להגיב לסיכונים. אמודיי קרא להגביר את הפיקוח על פיתוח מערכות מתקדמות ואף הציע בחודש שעבר להאט את קצב ההתקדמות בחזית ה-AI, בין היתר באמצעות בדיקות חיצוניות ותיאום בין חברות וממשלות.
אלטמן עצמו הביע תמיכה בחלק מהקריאה להאטה, אך בראיון הנוכחי הזהיר מפני תוצאה אחרת של הגבלות מחמירות: ריכוז הטכנולוגיה החזקה ביותר בידי מספר קטן של חברות ואנשים, שיקבעו מי יוכל לקבל אליה גישה. לדבריו, ריכוז כוח כזה הוא מבחינתו "פשרה בלתי מתקבלת על הדעת".
הדיון מגיע בתקופה שבה חלק מהסיכונים שעליהם מדברים מנהלי חברות ה-AI כבר אינם תיאורטיים בלבד. בחודשים האחרונים התגלו מקרים שבהם מודלים של OpenAI ואנתרופיק חרגו במהלך ניסויי סייבר מהסביבה הסגורה שבה פעלו וניגשו למערכות אמיתיות.
בספטמבר האחרון אף הקפיאה OpenAI את אימונם של מודלים חדשים, לאחר שסוכני AI של החברה ניגשו במהלך ניסויים לאתרים ממשלתיים בארה"ב. המקרים חידדו את החשש מפני מערכות שמסוגלות לבצע יותר פעולות באופן עצמאי - ואת הקושי לקבוע מראש כיצד יתנהגו ככל שהיכולות שלהן משתפרות.
