"אין לי מילים". כך הגיב דין בול, לשעבר יועץ לענייני בינה מלאכותית בממשל טראמפ, לאחר שנודע כי משרד המסחר האמריקאי הורה לאנתרופיק להשעות את הגישה למודלי הבינה המלאכותית המתקדמים ביותר שלה עבור כל אזרח זר, כך צוטט בין היתר בניו יורק טיימס.
● המהפך של סירי הוא מבחן ה-AI של אפל
● המרוץ ל-AI גובה מחיר: מניית אורקל צונחת למרות דוחות חזקים
התגובה הקצרה והחריגה הפכה בתוך שעות לאחת המצוטטות ביותר סביב הפרשה, ומשקפת היטב את תחושת ההלם שאחזה בחלקים נרחבים של תעשיית הבינה המלאכותית בעקבות המהלך.
הדרמה החלה ביום שישי, כאשר אנתרופיק הודיעה כי קיבלה מהממשלה האמריקאית הוראה המחייבת אותה לחסום את הגישה למודלי מיתוס 5 ו־Fable 5 עבור כל אזרח זר, בין אם הוא נמצא מחוץ לארצות הברית ובין אם הוא חי ופועל בתוכה. ההוראה חלה אפילו על עובדים זרים של אנתרופיק עצמה. כדי לעמוד בדרישות הרגולטוריות הודיעה החברה כי תיאלץ להשבית את הגישה למודלים עבור כלל המשתמשים בעולם עד להודעה חדשה.
ההחלטה עוררה מיד ויכוח רחב בעמק הסיליקון ובקהילת הסייבר העולמית. במשך שנים התמקדו מגבלות הייצוא האמריקאיות בשבבים מתקדמים, במעבדים גרפיים ובציוד לייצור שבבים, מתוך ניסיון למנוע ממדינות יריבות גישה לתשתיות המחשוב הדרושות לפיתוח בינה מלאכותית. הפעם מדובר במשהו שונה לחלוטין. במקום להגביל את החומרה, הממשל החליט להגביל את המודל עצמו. עבור רבים בתעשייה, זהו רגע שעשוי לסמן שינוי עמוק באופן שבו וושינגטון מתייחסת לבינה מלאכותית מתקדמת.
הפעם הראשונה שארה"ב מטילה מגבלות ייצוא על מודל שפה
החשש אינו מוגבל רק לאנתרופיק. ככל שחולפות השעות מאז פרסום ההחלטה, יותר ויותר חברות טכנולוגיה וסטארט-אפים ברחבי העולם מבינים את המשמעות הרחבה שלה.
חברת המחקר האוסטרלית Isaacus, שפועלת במספר מדינות מערביות, הזהירה כי ההשלכות של ההחלטה עלולות להיות רחבות הרבה מעבר לאנתרופיק עצמה. בפוסט שפרסמה בבלוג שלה, כתבה החברה כי זו ככל הנראה הפעם הראשונה שבה ארצות הברית מטילה מגבלות ייצוא על מודל שפה גדול ולא על חומרה.
לדבריה, ההחלטה אינה פוגעת רק במדינות יריבות אלא גם בבעלות בריתה הקרובות ביותר של ארה״ב, ובהן בריטניה, קנדה, אוסטרליה וניו זילנד. בחברה הזהירו כי כל אפליקציה או שירות המבוססים על מודל אמריקאי חשופים כעת לסיכון שהגישה לטכנולוגיה תיחסם באופן מיידי בעקבות החלטה רגולטורית. "מי שתלוי בבינה מלאכותית למשימות קריטיות חייב לשאול את עצמו מה קורה כשהאינטליגנציה הזו פשוט נעלמת בן לילה", כתבו בין היתר.
מה הקשר של אמזון?
הסיבה הרשמית לצעד הדרסטי קשורה לחששות ביטחוניים מיידיים. לפי דיווחים בארצות הברית, שר המסחר האמריקאי, הווארד לוטניק, שיגר את צו החירום לאחר שחברת אמזון (AWS), מי שמהווה את המשקיעה והשותפה המרכזית של אנתרופיק, זיהתה בעצמה חולשה קריטית במודלים והציגה לממשל הדגמה חסרת תקדים.
מההדגמה עלה כי באמצעות טכניקות עקיפה ("Jailbreak"), ניתן לנטרל את חומות ההגנה של מודל הדגל Fable 5 ולהגיע ישירות למנוע הסייבר האגרסיבי של מיתוס 5 היושב מאחוריו.
החשש בוושינגטון הוא שמודלים אלו, שהציגו יכולות פנומנליות באיתור חולשות קוד, ינוצלו על ידי גורמי סייבר עוינים או מדינות זרות לכתיבת קוד תקיפה (Exploits) עצמאי נגד תשתיות קריטיות בארה"ב.
לפי דיווחים בארה"ב, גורמים בממשל ביקשו מאנתרופיק מאחורי הקלעים לדחות את השקת המודלים. לאחר שהחברה לא עשתה זאת, הוחלט להטיל עליהם מגבלות ייצוא חריגות, מהלך שהוביל להשבתתם ברחבי העולם.
ומה התגובה של אנתרופיק
אלא שבאנתרופיק דוחים את הטענות וטוענים כי המהלך מבוסס על פרשנות שגויה של הממצאים. בהודעה חריגה שפרסמה החברה שעות לאחר קבלת ההוראה נכתב כי לא הוצגו לה ראיות לקיומה של פרצת אבטחה משמעותית או של שיטת עקיפה רחבה המסוגלת לבטל את מנגנוני ההגנה של המודל.
לטענתה, המקרים שהוצגו לה כללו איתור של מספר חולשות תוכנה פשוטות יחסית, כאלה שניתן למצוא גם באמצעות מודלים ציבוריים אחרים הזמינים כיום בשוק. החברה אף טענה כי השקיעה חודשים ארוכים בבדיקות אבטחה מקיפות שבוצעו בשיתוף גורמי ממשל אמריקאיים ובריטיים, צוותי מחקר פנימיים וארגוני אבטחה חיצוניים.
לדבריה, אף אחד מהבודקים לא הצליח למצוא דרך עקבית ורחבה לעקוף את מנגנוני ההגנה של המערכת. באנטרופיק הודו כי אין כיום דרך להבטיח חסינות מוחלטת מפני ניסיונות עקיפה, אך טענו כי מצב זה נכון לכל מודל בינה מלאכותית מתקדם הקיים כיום בתעשייה.
זו גם אחת הסיבות המרכזיות לכך שההחלטה עוררה תגובות חריפות בקרב מומחי מדיניות וטכנולוגיה. רבים מהם טוענים כי מודלים המסוגלים לזהות חולשות אבטחה הם מטבעם כלי דו שימושי.
אותם כלים שיכולים לסייע להאקרים לאתר נקודות תורפה יכולים לסייע גם לבנקים, לחברות תוכנה ולארגוני תשתיות קריטיות להגן על עצמם. לכן, לטענתם, קשה מאוד לקבוע מתי מדובר בסיכון בלתי סביר ומתי מדובר ביכולת הגנתית לגיטימית.
חלק מהדיון המקצועי מתמקד גם באופן שבו אנתרופיק עצמה בנתה את מנגנוני ההגנה של Fable 5. חוקרים ומפתחים בתחום הבינה המלאכותית מצביעים על כך שהמודל הסתמך על מערכת סינון שנועדה לזהות בקשות רגישות בתחומי הסייבר והביולוגיה ולהעביר אותן לטיפול במודל ישן ומוגבל יותר.
מבקרים טוענים כי עצם קיומו של מנגנון כזה יצר יעד ברור עבור חוקרים והאקרים שניסו לעקוף אותו. אף שאין הסכמה כי זו הסיבה שהובילה להתערבות הממשל, יש מי שסבורים שהוויכוח סביב מנגנוני ההגנה של המודל תרם לחששות בוושינגטון.
הבעיה הנוספת של אנתרופיק
במקביל, אנליסטים בתחום התוכנה והסייבר מצביעים על בעיה נוספת שהעיבה על השקת Fable 5 עוד לפני ההתערבות הממשלתית. בניסיון להדק את הפיקוח על השימוש במודל, אנתרופיק הודיעה כי תשמור נתוני שימוש ופרומפטים למשך 30 יום לצורך ניטור וזיהוי ניסיונות עקיפה.
המהלך עורר ביקורת בקרב לקוחות ארגוניים שחוששים להזין למערכת קוד קנייני, מידע רגיש או סודות מסחריים. לפי דיווחים בתעשייה, חלק מהחברות הגדולות כבר החלו לבחון מחדש את השימוש במודל עוד לפני פרסום ההוראה של משרד המסחר.
הביקורת אינה מגיעה רק מחוקרים ואנשי תעשייה. גם בקרב גורמים המזוהים עם הממשל עצמו נרשמה הפתעה. אותו דין בול, שהיה מעורב בעבר בגיבוש מדיניות בינה מלאכותית בוושינגטון, הגדיר את ההחלטה כ"מבלבלת". בעיני רבים, העובדה שאחד הקולות המזוהים עם גישה פרו חדשנית לממשל האמריקאי מתקשה להבין את ההיגיון מאחורי המהלך מעידה עד כמה מדובר בהחלטה יוצאת דופן.
מנגד, יש גם מי שמברכים על הצעד. קירסטן דייוויס, ראש מערך המידע של הפנטגון, כתבה ברשתות החברתיות כי ביטחון לאומי חשוב יותר משיקולים עסקיים, מחזורי הכנסות או הערכות שווי לקראת הנפקה. מבחינת תומכי המהלך, אם קיים אפילו סיכוי שמודל בינה מלאכותית מתקדם יוכל לשמש מדינות יריבות או ארגוני סייבר לצורך תקיפת מערכות אמריקאיות, לממשלה יש חובה להתערב.
מעבר לוויכוח סביב אנתרופיק עצמה, רבים בתעשיית הטכנולוגיה רואים בפרשה תקדים שעשוי להשפיע על כל תחום הבינה המלאכותית. במשך שנים נתפסו מודלי AI כשירותים גלובליים הזמינים לכל משתמש כמעט מכל מקום בעולם, אך ההחלטה הנוכחית מזכירה עד כמה העולם תלוי בחברות אמריקאיות ובמדיניות של וושינגטון.
לכן, יש מי שסבורים שהמהלך יאיץ את המאמצים באירופה, באסיה ובמדינות נוספות לפתח מודלים עצמאיים ולהפחית את התלות בטכנולוגיה אמריקאית. בעמק הסיליקון השאלה המרכזית כבר אינה רק מה יעלה בגורלם של Mythos 5 ו־Fable 5, אלא האם ארצות הברית סימנה לראשונה את מודלי הבינה המלאכותית עצמם כנכס אסטרטגי שניתן להגביל את הגישה אליו, בדומה לשבבים מתקדמים ולטכנולוגיות רגישות אחרות.
