גלובס - עיתון העסקים של ישראלאתר נגיש

עמוד הבית  טכנולוגיה

שלמה קרמר מציע פרס: עשרות אלפי דולרים למי שיצליחו להערים על סוכן AI

בחברת קייטו נטוורקס של שלמה קרמר מכריזים על פרס של 30 אלף דולר, שיחולק בין שלושת המשתתפים הראשונים שיצליחו להחדיר הוראות זדוניות לסוכן AI - ויסיטו אותו מהמשימה שהוגדרה לו ● האתגר מתחיל היום בשעה 15:30 ● קרמר: "הענקת אוטונומיה לסוכני AI מחייבת מנגנוני אבטחה שיסכלו פעולות מזיקות"

שלמה קרמר, מייסד ומנכ''ל קייטו נטוורקס / צילום: Eclipse Media and Leonid Yakobov
שלמה קרמר, מייסד ומנכ''ל קייטו נטוורקס / צילום: Eclipse Media and Leonid Yakobov

בחודשים האחרונים נרשמו לא מעט מקרים שבהם סוכני בינה מלאכותית אוטונומיים עקפו מגבלות אבטחה, ופעלו ללא פיקוח אנושי - אך במקביל פותחו כמה פתרונות למנוע מקרים כאלה.

בחברת קייטו נטוורקס של שלמה קרמר כל כך מאמינים בפתרון שלהם, שהם מכריזים על פרס של 30 אלף דולר, שיחולק בין שלושת המשתתפים הראשונים שיצליחו להחדיר הוראות זדוניות לסוכן AI - ויסיטו אותו מהמשימה שהוגדרה לו. האתגר מתחיל היום (ג') ויהיה זמין החל משעה 15:30.

● היום שבו סוכני AI יעשו את הקניות עבורנו כבר כאן. את מי זה מדאיג?
● בונה את התשתית לחוות שרתים בחלל: החברה הישראלית שגייסה 124 מיליון דולר

למעשה, זו הדרך המקורית של החברה להכריז על AgentSense - פתרון אבטחה חדש המוגן בפטנט, שמנטר באופן רציף ובזמן אמת את פעילותם של סוכני AI אוטונומיים, במטרה לוודא שההחלטות שלהם, הפעולות והתוצרים שהם מפיקים תואמים את כוונת המשתמש.

בחברה מסבירים כי בניגוד לפתרונות המסתמכים בעיקר על זיהוי דפוסים מוכרים של תקיפה, AgentSense בוחנת בזמן אמת כיצד תוכן לא מהימן משפיע על החלטות הסוכן, ועל הפעולות שהוא מבצע. כך מתאפשר לספק הגנה גם מפני מתקפות המבוססות על חולשות שטרם זוהו, לרבות חולשות יום אפס.

הסוכן שאת פעולתו יש "לשבש" במסגרת האתגר מוגן באמצעות הפתרון הזה. מה שנדרש מהמשתתפים הוא להטמין הוראות זדוניות בתוכן שאליו נחשף הסוכן, ולגרום לו לסטות מהמשימה שהוטלה עליו. קייטו תשתמש בממצאים ובמשוב של המשתתפים כדי לבחון ולשפר את יכולות ההגנה.

לדברי קרמר, המשמש כמנכ"ל ומייסד-שותף של קייטו, "בעידן שבו ארגונים מפקידים בידי סוכני AI החלטות שמשפיעות על הכנסותיהם, על הקשר עם הלקוחות ועל הרציפות העסקית, הבקרה על פעילות הסוכנים הופכת חיונית לא פחות מהבקרה הפיננסית.

"הענקת אוטונומיה רבה יותר לסוכני AI מחייבת מנגנוני אבטחה שיסכלו פעולות מזיקות. החזון שלנו הוא ש־AgentSense יעניק ללקוחותינו את הביטחון להסתמך על סוכני AI גם בניהול תהליכים עסקיים קריטיים, מבלי לאבד את השליטה בהם".

לצפייה באתגר.

עוד כתבות

נגיד בנק ישראל, פרופ' אמיר ירון / צילום: גו לייב

הסעיף שטרף את תחזיות האינפלציה ודילמת הריבית של בנק ישראל

האינפלציה בישראל צנחה ל־1.1%, שפל של חמש שנים וחצי, והמשקיעים כבר מגיבים לאפשרות של הפחתת ריבית ● הכלכלנים, לעומת זאת, רואים תמונה שונה ● מאחורי הפער: סעיף טיסות ששוב טרף את התחזיות, פיחות שטרם הגיע למחירים וסיכונים שממשיכים להצטבר

קנצלר אוסטריה כריסטיאן שטוקר, שר הפנים של רואנדה וינסנט בירוטה, וראשת ממשלת דנמרק מדה פרדריקסן אחרי ההכרזה על תוכנית הגירוש / צילום: Reuters, Leonhard Foeger

לראשונה: מדינות אירופה יגרשו מהגרים לא-חוקיים לרואנדה

גרמניה, דנמרק, אוסטריה, הולנד ויוון הודיעו על הקמת מרכזי השבה במדינה שלישית, רואנדה, שאליהם יגורשו מבקשי מקלט שבקשותיהם נדחו ● הצעד התקדימי, שמשקף החרפה בדעת הקהל נגד הגירה לא חוקית באירופה, כולל מימון והעברת תקציבים לשילובם בכלכלה המקומית, והוא צפוי להתחיל כפיילוט ב-2027 ● גם בישראל קודמה בעבר תוכנית דומה שנגנזה

משה בר סימן טוב / צילום: לע''מ

משה בר סימן טוב בשיחת פרישה: "הדבר שלא הספקנו לטפל בו הוא הרשתות החברתיות והמסכים"

משה בר סימן טוב מסכם קדנציה רצופת משברים ומזהיר כי מערכת הבריאות חייבת להיערך לעתיד של חירום מתמשך ● כמו כן, הוא מציין כי יש להתמודד עם השמנת ילדים, עישון והשפעת הרשתות החברתיות, ולהגדיל את ההשקעה הציבורית כדי למנוע העמקת פערים בשירותי הבריאות

ג'ק קלארק, דניאלה אמודיי, דאריו אמודיי, ג'ארד קפלן / צילום: ap, Sakchai Lalit, Jeff Chiu, ויקיפדיה-TechCrunch, Markus Schreiber

שני אחים, עיתונאי לשעבר ויזם סדרתי: המייסדים של אנת'רופיק ששווים כ־18 מיליארד דולר כל אחד

לפני שש שנים שבעה מעובדי OpenAI התפטרו בגלל חששות מהכיוון שאליו מתפתחת הבינה המלאכותית, והקימו את אנתרופיק - שהפכה לאחת המתחרות הבולטות בענף ● כעת, הם נערכים להנפקת ענק בוול סטריט לפי שווי של 1.4 טריליון דולר

אפליקציית גלובס המחודשת

גלובס מתחדש: מתיחת פנים באפליקציה, חוויית קריאה משופרת ומהדורה יומית מיוחדת

אפליקציית גלובס עוברת מתיחת פנים עם עיצוב עדכני, ניווט פשוט יותר וגישה נוחה לחדשות ולמידע פיננסי ● בין החידושים: "הסלסלה" - אזור תוכן חדש שיציע מדי יום חמישה סיפורים שנבחרו ע"י עורכי גלובס

שיבן רמג'י, מנכ''ל סלברייט; סקוט ראסל, מנכ''ל נייס; עומר כילף. מנכ''ל ומייסד אינוויז / צילומים: NiCE, סלברייט, יח''צ

גל של פיטורים במשק: בתוך חודש הודיעו עשרות חברות ישראליות על קיצוצים

תוך שישה שבועות פוטרו כבר קרוב ל־2,000 עובדים בחברות הייטק ובחברות בורסאיות וזה כנראה לא הסוף ● חלק מהמהלכים מיוחסים לכניסת הבינה המלאכותית וחלק בגלל רצון להתייעלות ● המגמה שלילית גם ביחס המשרות הפנויות למספר מחפשי העבודה בהייטק ובקרב אקדמאים ומנהלים, המצב הולך ומחריף

בניין מלם תים פתח תקוה / צילום: בר - אל

עלו ב-50% כשהשוק רעד: המניות המפתיעות שהפכו לכוכבות הבורסה

בעוד מדד ת"א 125 מדשדש, מניות ה־IT הגדולות (מלם תים, מטריקס, וואן וחילן) זינקו בעשרות אחוזים בחצי השנה האחרונה ● ברקע: דוחות שיא ושותפויות עם OpenAI ואנתרופיק ● אנליסטים מזהירים מפני השפעת כלי ה־AI על מודלי התמחור והרווחיות

רשות המסים / צילום: איל יצהר

שומר במועצה מקומית רכש נדל"ן, ג'יפ וטס הרבה לחו"ל - וברשות המסים נדלקו נורות אדומות

לאחר שנתפס עם 470 אלף שקל במזומן ברכבו, וחי ברמת חיים גבוהה מזו שמאפשרת משכורת של 75 אלף שקל בשנה, נדרש שומר במועצה לשלם מס על הון בלתי מוסבר שהתגלה אצלו ● ביהמ"ש דחה ערעור שהגיש, לאחר שהוא עצמו הודה שיש לו הכנסות לא מוצהרות ממכירת כבשים

משכנתא / אילוסטרציה: Shutterstock

האינפלציה יורדת, אבל נוטלי המשכנתאות נוהרים לפריים. האם זו טעות?

למרות שהאינפלציה ירדה ל-1.1% בשנה, רק 8% מהמשכנתאות שנלקחו בחודש שעבר היו צמודות למדד ● הציבור מעדיף את מסלול הפריים, שחלקו הגיע ל-28%, גם במחיר של החזר חודשי גבוה יותר ● יועצי משכנתאות מסבירים כי הטראומה מהמדדים הגבוהים של השנים האחרונות עדיין משפיעה על החלטות הלווים, ומזהירים כי ההתרחקות מהמסלול הצמוד לא בהכרח משתלמת

בצלאל מכליס, מנכ''ל ונשיא החברה / צילום: אסף שילה ישראל סאן

"נקבל עשרות מיליוני דולרים": הבשורה שחשף מנכ"ל אלביט

החברה הביטחונית הציגה עלייה דו־ספרתית בהכנסות וברווח הנקי ברבעון השלישי, וצבר ההזמנות טיפס לשיא של 33 מיליארד דולר ● המנכ"ל בצלאל מכליס חשף כי נחתם הסכם מול משרד הביטחון לפיצוי של עשרות מיליוני דולרים בגין עיכוב תשלומים מתחילת המלחמה ● "מגדילים את קיבולת הייצור ומטמיעים שימוש בבינה מלאכותית בכל רחבי הארגון כדי לקדם פרודוקטיביות"

מטוס ארקיע. בעיגול: רונן אלעד / צילום: ארקיע, יח''צ

העסקה נחשפה בתקשורת, וישיבת הדירקטוריון התפוצצה: מאחורי הקלעים של מכירת ארקיע

שעתיים אחרי שהכריזו על סכסוך עבודה, עובדי ארקיע גילו דרך הפושים שהעסקה למכירת החברה כבר נחתמה – בלי שהתייעצו איתם ● לאחר שיחה שכללה צעקות ודפיקות על השולחן, החל מרוץ למציאת משקיע חלופי, שכלל גם את ישראייר ובלו בירד, ובסופו נבחר רונן אלעד ● כך התנהלה הדרמה מאחורי הקלעים של עסקת המכירה

רונן אלעד / צילום: יח''צ

יוצא השייטת ומשקיע סדרתי: הכירו את בעל השליטה החדש בארקיע

רונן אלעד חתם אתמול על רכישת חברת התעופה אחרי שקיבל את תמיכת ועד העובדים והדירקטוריון ● אלעד, המחזיק בחברות תעשייה, תשתיות וסחר, מוגדר כמי שלא מסתפק בניהול מרחוק וכבעל ניסיון בהבראת והשבחת חברות

אילוסטרציה: Shutterstock

וול סטריט ננעלה בירידות חדות, בהובלת אנבידיה ומניות השבבים

הנאסד"ק נפל בכ-2.5%, ה-S&P 500 נסוג בקרוב ל-2% ● מיקרון, אינטל, ברודקום ו-AMD איבדו גובה בהמשך לטלטלה באנבידיה ● המשקיעים מצפים לשני אירועים קריטיים: דוחות אנבידיה מחר והנפקת הענק של אנת'רופיק ביום חמישי ● מחירי הנפט ירדו ● הדולר התחזק בעולם לשיא מאז אפריל 2025, הזהב ירד מתחת ל-3,900 דולר ● יו"ר הפד קווין וורש: "הבינה המלאכותית יכולה גם לאכזב"

בניין עיריית תל אביב־יפו / צילום: Shutterstock

יזם נדל"ן מוכר נחקר בפעם השנייה בפרשת השחיתות בעזרה ובצרון

מדובר ביזם נדל"ן בעלי חברת נדל"ן מהגדולות בארץ; יחד אתו עוכבו לחקירה שני חשודים נוספים ● החקירה הגלויה בפרשה החלה ביוני 2025, ובמסגרה נחקר חשד כי הועבר שוחד בהיקף של 10 מיליון שקל מקבלנים ומבעלי עניין לד"ר אלי גינזברג, מנכ"ל עזרה ובצרון, שקידם אינטרסים שלהם בפרויקטי בנייה ברחבי ת"א

תומר אליהו / צילום: פרטי

אבא שלו איבד 4 מיליון שקל. הוא נחוש שזה לא יקרה לו

תומר אליהו נחשף למשבר כלכלי בגיל 3, שחידד אצלו תובנה לגבי החשיבות של ידע פיננסי ● הוא מקדיש לכך את כל מרצו, עם חברה לחינוך פיננסי למשפחות וספר על השקעות ● את תשואת התיק שלו הוא לא חושף, כי לא כך מודדים הצלחה לדעתו ● המשקיעים החדשים

חסן שייח' מחמוד, נשיא סומליה / צילום: ap, Khalil Hamra

המדינה האפריקאית שרואה בישראל "איום קיומי"

כותרות העיתונים בעולם: נשיא סומליה אמר בנאום כי ישראל וטייוואן הן איום מסוכן על ארצו, אנקרה מנסה לקדם הקמת בסיס צבאי בערב הסעודית והיקף התקיפות של איראן במדינות המפרץ נחשף • גלובס מגיש מדי יום סקירה קצרה של ידיעות מעניינות מהתקשורת העולמית על ישראל 

וול סטריט / צילום: Unsplash, Ahmer Kalam

"מקסימום חשיפה": ההמלצה המפתיעה של ענק ההשקעות

על אף הטלטלות בשווקים, בבנק ההשקעות מורגן סטנלי מאמינים שהגיע הזמן להיכנס לנכסי סיכון גלובליים במלוא הכוח, ומאמינים שה-S&P 500 יטפס ביותר מ-15% עד סוף השנה הבאה ● בבנק צופים כי בום ה-AI יחלחל לאזורים נוספים בשוק, ומסמנים סקטור אחד במיוחד

איתמר פורמן, מנכ''ל ישראכרט / צילום: ענבל מרמרי

שלב "ניקוי האורוות" בישראכרט: האם הפיטורים הרחבים יצילו את שורת הרווח?

מאז רכשה קבוצת דלק את ישראכרט המניה נחתכה בבורסה ● כעת, לאחר פרסום דוחות כספיים שבישרו על צניחה ברווח החברה מקצצת עד 370 משרות ותהפוך מהמעסיקה הגדולה בתחום, לרזה יותר ● איזה עובדים צפויים לפרוש והאם זה יספיק כדי לאושש את שורת הרווח?

ריצ'רד פרנסיס, נשיא ומנכ''ל טבע / צילום: אלעד מלכה

מניית טבע תצטרף בקרוב למדד מוביל בארה"ב

טבע תצטרף בעדכון של חודש דצמבר למדד ראסל 1000, שכולל את 1,000 החברות הגדולות במדדי ראסל בארה"ב ● הכניסה למדד צפויה להוביל לביקושים למניית טבע

חריש / צילום: שלומי יוסף

הפרצה שמאפשרת לקנות דירה בחיפה בהנחה של יותר מ־50%

עיכוב של שנים בפרויקטי "מחיר למשתכן" יצר בחיפה הנחה של יותר מ-1.3 מיליון שקל במחיר הדירות המוגרלות ● בחריש, במסגרת מחיר מטרה, הדירות הגדולות מוצעות החל מ–1.6 מיליון שקל