שלמה קרמר מציע פרס: עשרות אלפי דולרים למי שיצליחו להערים על סוכן AI

בחברת קייטו נטוורקס של שלמה קרמר מכריזים על פרס של 30 אלף דולר, שיחולק בין שלושת המשתתפים הראשונים שיצליחו להחדיר הוראות זדוניות לסוכן AI - ויסיטו אותו מהמשימה שהוגדרה לו • האתגר מתחיל היום בשעה 15:30 • קרמר: "הענקת אוטונומיה לסוכני AI מחייבת מנגנוני אבטחה שיסכלו פעולות מזיקות"

שלמה קרמר, מייסד ומנכ''ל קייטו נטוורקס / צילום: Eclipse Media and Leonid Yakobov
שלמה קרמר, מייסד ומנכ''ל קייטו נטוורקס / צילום: Eclipse Media and Leonid Yakobov

בחודשים האחרונים נרשמו לא מעט מקרים שבהם סוכני בינה מלאכותית אוטונומיים עקפו מגבלות אבטחה, ופעלו ללא פיקוח אנושי - אך במקביל פותחו כמה פתרונות למנוע מקרים כאלה.

בחברת קייטו נטוורקס של שלמה קרמר כל כך מאמינים בפתרון שלהם, שהם מכריזים על פרס של 30 אלף דולר, שיחולק בין שלושת המשתתפים הראשונים שיצליחו להחדיר הוראות זדוניות לסוכן AI - ויסיטו אותו מהמשימה שהוגדרה לו. האתגר מתחיל היום (ג') ויהיה זמין החל משעה 15:30.

● היום שבו סוכני AI יעשו את הקניות עבורנו כבר כאן. את מי זה מדאיג?
● בונה את התשתית לחוות שרתים בחלל: החברה הישראלית שגייסה 124 מיליון דולר

למעשה, זו הדרך המקורית של החברה להכריז על AgentSense - פתרון אבטחה חדש המוגן בפטנט, שמנטר באופן רציף ובזמן אמת את פעילותם של סוכני AI אוטונומיים, במטרה לוודא שההחלטות שלהם, הפעולות והתוצרים שהם מפיקים תואמים את כוונת המשתמש.

בחברה מסבירים כי בניגוד לפתרונות המסתמכים בעיקר על זיהוי דפוסים מוכרים של תקיפה, AgentSense בוחנת בזמן אמת כיצד תוכן לא מהימן משפיע על החלטות הסוכן, ועל הפעולות שהוא מבצע. כך מתאפשר לספק הגנה גם מפני מתקפות המבוססות על חולשות שטרם זוהו, לרבות חולשות יום אפס.

הסוכן שאת פעולתו יש "לשבש" במסגרת האתגר מוגן באמצעות הפתרון הזה. מה שנדרש מהמשתתפים הוא להטמין הוראות זדוניות בתוכן שאליו נחשף הסוכן, ולגרום לו לסטות מהמשימה שהוטלה עליו. קייטו תשתמש בממצאים ובמשוב של המשתתפים כדי לבחון ולשפר את יכולות ההגנה.

לדברי קרמר, המשמש כמנכ"ל ומייסד-שותף של קייטו, "בעידן שבו ארגונים מפקידים בידי סוכני AI החלטות שמשפיעות על הכנסותיהם, על הקשר עם הלקוחות ועל הרציפות העסקית, הבקרה על פעילות הסוכנים הופכת חיונית לא פחות מהבקרה הפיננסית.

"הענקת אוטונומיה רבה יותר לסוכני AI מחייבת מנגנוני אבטחה שיסכלו פעולות מזיקות. החזון שלנו הוא ש־AgentSense יעניק ללקוחותינו את הביטחון להסתמך על סוכני AI גם בניהול תהליכים עסקיים קריטיים, מבלי לאבד את השליטה בהם".

לצפייה באתגר.