קמפיין חדש מזהיר מפני שימוש בלתי מבוקר בנשק אוטונומי. במרכזו של הקמפיין ניצב סרטון קצר אשר מציג עתיד ברוטלי. בסרטון מוצגת חברה לייצור נשק אשר חושפת רחפן זעיר שמאתר ומחסל אנשים ביעילות חסרת רחמים. אך כשהטכנולוגיה נופלת לידיים הלא נכונות, איש אינו בטוח. פוליטיקאים נקצרים לאור היום. המכונות נוחתות באולם הרצאות ומזהות פעילים, שנשלחים במהירות לעולם הבא באמצעות פיצוץ חומר נפץ על ראשם.
הסרטון הקצר והמטרד הזה הוא חלק מהמאמץ של פעילים ומדענים מודאגים, שמבקשים להמחיש את הסכנות הכרוכות בפיתוח כלי נשק אוטונומיים שמסוגלים לזהות, לעקוב אחר, ולירות על מטרות ללא פיקוח אנושי. הפעילים מזהירים כי יש צורך להטיל בדחיפות איסור על טכנולוגיה זו כדי לחסום את פיתוחו של נשק השמדה המוני חדש ונורא.
סטיוארט ראסל, מדען בינה מלאכותית מוביל באוניברסיטת קליפורניה בברקלי, הציג את הסרט יחד עם פעילים אחרים באירוע שנערך במסגרת הכנס על כלי נשק לא קונבנציונליים, שאותו יארח "הקמפיין לבלימת רובוטים מחסלים" (Campaign to Stop Killer Robots). הייצור והשימוש בכלי נשא אוטונומיים, כגון רחפנים, טנקים ומכונות ירייה אוטומטיות, עלול לפגוע באופן חריף בביטחון ובחופש של בני המין האנושי, וחלון הזמן לבלימת פיתוחם הולך ונסגר במהירות, הזהיר ראסל.
"הטכנולוגיה המתוארת בסרט היא פשוט אינטגרציה של יכולות קיימות. זה לא מדע בדיוני. למעשה, זה קל יותר לייצור מאשר מכוניות אוטונומיות, שדורשות סטנדרטי ביצוע גבוהים בהרבה", אמר ראסל.
הצבא הוא אחד המממנים והמשתמשים הגדולים ביותר של טכנולוגיות בינה מלאכותית. טכנולוגיות אלה שמאפשרות לרובוטים לטוס, לנווט על פני הקרקע ולפטרל על קרקעית הים. אלגוריתמי תמונות, שמקושרים לנתונים שמספקת מצלמה, יכולים לסרוק צילומי וידיאו ולזהות מטרות טוב יותר מאשר בני אדם. זקיף אוטומטי ששומר על גבולה של קוריאה הדרומית עם קוריאה הצפונית פועל על טכנולוגיה שמאפשרת זיהוי ומעקב אחר מטרות במרחק של עד 4 קילומטר.
רחפנים צבאיים מבצעים זה זמן רב טיסות למרחקים ארוכים כדי לאסוף מידע ולבצע מתקפות, וכעת ניתן לייצר כלי נשק אוטונומיים חמושים בחומרי נפץ ומערכות זיהוי מטרה, שמסוגלים לזהות ולפגוע במטרה מבלי להמתין להוראותיו של מפעיל אנושי. מתנגדי הנשק האוטונומי טוענים כי לאפשר למכונה לחרוץ את גורלם של אנשים לחיים או למוות, מהווה חציית קו אדום מהבחינה המוסרית.
"המשך פיתוחן של מערכות נשק קטלניות אוטונומיות יצמצם באופן דרסטי את הביטחון הבינלאומי, הלאומי, המקומי והאישי", אמר ראסל. בעבר השתמשו מדענים בטיעון דומה כדי לשכנע את הנשיאים לינדון ג'ונסון וריצ'רד ניקסון לוותר על תוכנית הנשק הביולוגי של ארה"ב, ובסופו של דבר גם לכונן את אמנת הנשק הביולוגי.