ביל גייטס, מייסד מיקרוסופט ואחת הדמויות הבולטות בעולם הטכנולוגיה, משמיע אזהרה חריגה בנוגע להתפתחות הבינה המלאכותית. בראיון ששודר אתמול (א’) בתוכנית "Meet the Press" של NBC, הזהיר גייטס כי שימוש בכלי AI מתקדמים בידי גורמים בעלי כוונות זדוניות עלול להוביל לאירועים שיגרמו ל"מיליארד מקרי מוות". לדבריו, לנוכח הסיכונים, לא ניתן להסתפק בפיקוח עצמי של חברות הטכנולוגיה, ונדרשת מעורבות של המחוקקים ורשויות האכיפה.
● הקמת תשתיות ה-AI הופכת להימור הכלכלי הגדול בתולדות ארה"ב
● הישראלי שבלב פריצות מודלי ה־AI: "זה הזמן של התעשייה להתאפס"
● ה-AI ברח מהמעבדה של חברה ישראלית. מי אשם?
"מעולם לא היה נשק חזק כמו השילוב בין אנשים בעלי כוונות רעות לבין כלי ה-AI החדשים ביותר", אמר גייטס למגישה קריסטן וולקר. לדבריו, הטכנולוגיה כבר חזקה מספיק כדי לאפשר תרחישים שיובילו למספר עצום של קורבנות. עם זאת, הוא לא טען כי ה-AI עצמו צפוי להרוג מיליארד בני אדם באופן עצמאי, אלא התמקד בסיכון שנובע מהשימוש שיעשו בו בני אדם.
גייטס קרא לממשל האמריקאי לקבוע מנגנוני פיקוח מחייבים על פיתוח הטכנולוגיה. "צריך שרשויות האכיפה והפוליטיקאים ייכנסו לדיון על האופן שבו צריכים להיראות אמצעי ההגנה והניטור", אמר, והוסיף כי אלה צריכים להיות דרישה מחייבת. לדבריו, הדרישות הללו אומנם יטילו עלויות מסוימות על התעשייה, אך לא אמורות להאט באופן דרמטי את פעילות החברות.
משנה את הטון
גייטס התייחס גם לאחד הפתרונות שנידונו בשנים האחרונות להתמודדות עם מערכות AI שעלולות לצאת משליטה - יצירת "מתג כיבוי" שיאפשר לעצור אותן במקרה הצורך. אלא שלדבריו, פתרון כזה אינו מספק.
"לא מספיק שיהיה מתג כיבוי", אמר. והסביר כי מערכות ה-AI עדיין לא הגיעו למצב שבו הן משתלטות באופן עצמאי על מחשבים ולא ניתן לכבות אותן. הוא אף טען כי חלק מהדיון הציבורי סביב פתרון כזה מעיד על חוסר הבנה טכנית של האופן שבו הטכנולוגיה פועלת כיום.
החשש המרכזי שמציג גייטס בשלב הנוכחי אינו בהכרח תרחיש שבו מערכת AI מחליטה לפעול נגד האנושות בכוחות עצמה, אלא האפשרות שבני אדם ינצלו את היכולות המתקדמות שלה למטרות הרסניות.
ההתבטאויות האחרונות בולטות במיוחד על רקע הגישה האופטימית יחסית שבה נקט גייטס במשך שנים ביחס להתפתחות הטכנולוגיה.
אלא שכבר בחודש שעבר נראה כי גייטס משנה את הטון. במאמר ארוך שפרסם באתרו כתב כי העולם אינו נערך כראוי לשינויים שמביאה הבינה המלאכותית, וקרא להקים מסגרות לאומיות ובינלאומיות חדשות להתמודדות עם הסיכונים. לדבריו, אין לצפות מחברות ה-AI עצמן להוביל את המהלך, והוסיף כי אילו הייתה קיימת דרך אמינה להאט את התקדמות הבינה המלאכותית ברחבי העולם, הוא ככל הנראה היה תומך בכך.
בכירי התעשייה חלוקים
האזהרה של גייטס מצטרפת לדיון שהולך ומתרחב בחודשים האחרונים סביב קצב פיתוח הבינה המלאכותית והסיכונים הנלווים אליו. רק לאחרונה קראו כמה מהדמויות הבולטות בתעשייה, בהן מנכ"ל אנתרופיק דריו אמודיי, מנכ"ל OpenAI סם אלטמן ואילון מאסק, לנקוט משנה זהירות בפיתוח המערכות המתקדמות. אלא שהאפשרות להאט את המרוץ מעוררת גם התנגדות, בין היתר בשל החשש בארה"ב כי מגבלות על החברות המקומיות יעניקו יתרון לסין.
החששות אינם נוגעים רק לתרחישים עתידיים. בחודשים האחרונים נחשפו כמה מקרים שבהם מודלי AI מתקדמים חרגו מסביבות הניסוי שבהן הופעלו. באוגוסט דווח כי מודלים של OpenAI ואנתרופיק הצליחו לגשת למערכות אמיתיות ולבצע פעולות שלא הוגדרו להם מראש.
בסוף השבוע האחרון הודיעה OpenAI על הקפאת אימון המודלים החדשים שלה בעקבות שורה של תקריות, ובהן מקרים שבהם סוכני AI של החברה ניגשו למידע באתרים של הממשל הפדרלי בארה"ב וניסו לאסוף נתונים נוספים. והמנכ״ל סם אלטמן הודיע כי החברה לא מתכוונת לצאת להנפקה השנה, על רקע החששות הגוברים מבטיחות הבינה המלאכותית.
אלא שמול קולות אלה ניצבים קולות בולטים לא פחות, שטוענים כי החששות מוגזמים וכי אין הצדקה להאט את המרוץ. אחד מהם הוא מנכ"ל אנבידיה ג’נסן הואנג. בראיון ל-CBS אמר לאחרונה כי חברות הטכנולוגיה צריכות לפתח AI "כמה שיותר מהר". כשנשאל אם בתוך עשור הבינה המלאכותית עלולה להביא להכחדת האנושות, השיב באופן חד־משמעי: "יש אפס אחוז סיכוי", וטען כי תחזיות מסוג זה אינן מבוססות על מדע ומייצרות פחד מיותר. גם בסוגיית הרגולציה הציג הואנג עמדה שונה מזו של גייטס: לדבריו, במקום להקים מסגרת רגולטורית חדשה לתחום, יש להתחיל באכיפת החוקים שכבר קיימים.
לעמדה הזאת הצטרף גם נשיא ארה"ב דונלד טראמפ. בשיחת טלפון מפתיעה עם הואנג במהלך כנס בלוס אנג’לס, יצא טראמפ להגנת תעשיית ה-AI וההשקעות העצומות בתשתיות הנדרשות להפעלתה. "אני אומר לכם, הכול תרמית", אמר בהתייחס לחששות סביב ההתפתחות המהירה של הטכנולוגיה וההתנגדות להקמת דאטה סנטרים, והוסיף כי "הרובוטים לא הולכים להשתלט". לדבריו, האטת הפיתוח והתשתיות בארה"ב תשחק לידיה של סין, בעוד הדאטה סנטרים הם "הנפט של 20-25 השנים הבאות".
לתשומת לבכם: מערכת גלובס חותרת לשיח מגוון, ענייני ומכבד בהתאם ל
קוד האתי
המופיע
בדו"ח האמון
לפיו אנו פועלים. ביטויי אלימות, גזענות, הסתה או כל שיח בלתי הולם אחר מסוננים בצורה
אוטומטית ולא יפורסמו באתר.
כתבות
ני"ע
