חברת אבטחת הבינה המלאכותית הישראלית אליס (Alice), לשעבר אקטיבפנס (ActiveFence), השלימה סבב גיוס של 140 מיליון דולר בהובלת אפקס דיגיטל (Apax Digital). לגלובס נודע כי הסבב נעשה לפי שווי של כ-800 מיליון דולר. הגיוס מביא את סך ההשקעות באליס מאז הקמתה ל-280 מיליון דולר, כאשר במקביל היא מתקרבת, לדבריה, לקצב הכנסות שנתיות חוזרות (ARR) של 100 מיליון דולר.
בסבב השתתפו גם סמסונג, חברת הסייבר סנטינל וואן, מורטק ונצ'רס והפניקס. לצדן השקיעו גם בעלי המניות הקיימים, ובהם CRV, גרוב ונצ'רס, נורווסט ונצ'ר פרטנרס, היילנד, וינטג', כללטק ו-NFX. לשם השוואה, בגיוס שנחשף ב-2021 הוערכה החברה ביותר מחצי מיליארד דולר.
● אנתרופיק בדרך להנפקה הגדולה מכולן. החידה: בכמה היא מסבסדת לכם את קלוד
● הקפיצה הגדולה הבאה של הבינה המלאכותית היא אל העולם האמיתי
● הסטארט-אפ הישראלי שעשה שינוי כיוון והפך לחומת המגן של אנתרופיק
הסבב הנוכחי מגיע כאמור כשבעה חודשים לאחר שהחברה החליפה את שמה מאקטיבפנס לאליס, כחלק משינוי עמוק שעברה בפעילותה. החברה, שהוקמה במקור כדי לאתר תכנים מזיקים, הונאות ומניפולציות ברשת, הפכה בשנים האחרונות את אבטחת מערכות הבינה המלאכותית לאחד ממנועי הצמיחה המרכזיים שלה. אליס נכללה, אז עוד בשמה הקודם, ברשימת הסטארט-אפים המבטיחים של גלובס לשנת 2021.
מגוגל ועד אנתרופיק
לצד הגיוס, אליס מרחיבה כאמור את רשימת הלקוחות שלה. בין השמות הבולטים: גוגל, אנתרופיק, אנבידיה, מטא, טיקטוק ואמזון. לדברי החברה, הטכנולוגיה שלה משמשת להגנה על שירותים שמגיעים ליותר משלושה מיליארד משתמשים, והיא עובדת כיום עם שמונה מתוך עשר מעבדות ה-AI המובילות שמפתחות מודלים מתקדמים. העובדה שברשימה מופיעות גם חברות שמתחרות זו בזו נובעת מסוג המוצר שאליס מציעה. החברה אינה מפתחת מודל בינה מלאכותית כללי משל עצמה, אלא שכבת בדיקה והגנה עבור החברות שבונות את המודלים ועבור ארגונים שמשלבים אותם במוצרים ובמערכות שלהם.
כך, לפני שמודל חדש מושק, חוקרי אליס מנסים לפרוץ את מנגנוני ההגנה שלו ולגרום לו לפעול בניגוד לכללים שנקבעו לו: לחשוף מידע שאסור לו למסור, להתעלם מהוראות או לבצע פעולה שלא התבקש לבצע. התהליך הזה, המכונה "צוות אדום" (Red Teaming), מאפשר לאתר חולשות ולהתאים את ההגנות למודל, לנתונים, להרשאות ולכלים שאליהם הוא מחובר.
לאחר שהמערכת עולה לאוויר, אליס ממשיכה לבחון אותה בסביבה הממשית שבה היא פועלת. הארגון יכול להגדיר אילו פעולות מותרות ואסורות, לדמות מתקפות שנועדו לחשוף דליפות מידע או הפרות רגולטוריות, ולנטר בזמן אמת את ההוראות שנשלחות למערכת ואת התשובות שהיא מחזירה. פעילות זו נעשית באמצעות מוצרי תוכנה וכן באמצעות צוותי חוקרים ומהנדסים שעובדים ישירות עם הלקוחות. לפי אליס, מעבדת אבטחת ה-AI שלה מעסיקה יותר מ-150 חוקרים.
עוד לפי החברה, הצורך בשכבת הגנה כזו גדל ככל שסוכני AI מקבלים גישה רחבה יותר למידע ולמערכות ארגוניות, ויכולים לא רק לענות על שאלות אלא גם לבצע פעולות באופן עצמאי. דוח הבטיחות הבינלאומי ל-AI לשנת 2026 קבע כי מנגנוני ההגנה משתפרים, אך עדיין סובלים ממגבלות משמעותיות: במקרים מסוימים אפשר לעקוף אותם באמצעות ניסוח מחדש של הבקשה או פיצולה לכמה שלבים.
החדירה של AI גנרטיבי לשוק הביאה לשינוי בפעילות
אליס הוקמה ב-2018 על ידי נועם שוורץ, יפתח אור, אלון פורת ואייל דייקן. תחת השם אקטיבפנס היא פיתחה מערכות שסייעו לרשתות חברתיות ולפלטפורמות אינטרנט לאתר תוכן אלים, הונאות, תעמולה קיצונית, דיסאינפורמציה ופעילות מתואמת. הפעילות הזאת דרשה מהחברה לעקוב אחר האופן שבו גורמים עוינים משנים שיטות ומנסים לעקוף מנגנוני הגנה.
עם השקת ChatGPT בסוף 2022 והחדירה המהירה של בינה מלאכותית גנרטיבית לשוק, התברר לחברה כי אותו ידע יכול לשמש גם להגנה על מודלים ועל מערכות המבוססות עליהם. מצד אחד, גורמים עבריינים החלו להשתמש בכלי AI כדי לייצר הונאות, מתקפות פישינג ותוכן מטעה בקנה מידה גדול יותר. מצד אחר, החברות שפיתחו את המודלים נזקקו לדרך שיטתית לבחון כיצד אפשר לנצל אותם לרעה. הידע שנצבר בפעילות המקורית עומד גם בבסיס Rabbit Hole, מאגר של דפוסי תקיפה ותוכן מזיק שנאספו מהעולם האמיתי. המאגר מאפשר לחוקרי החברה לבחון את מערכות ה-AI מול שיטות שכבר נצפו ברשת ולזהות גרסאות חדשות שלהן. ככל שתחום ה-AI תפס נתח גדול יותר מפעילות החברה, החליטה ההנהלה כי השם אקטיבפנס כבר אינו משקף את עסקיה, ובינואר האחרון השלימה את המיתוג מחדש לאליס.
כספי הגיוס ישמשו להרחבת מרכז הפיתוח של אליס בישראל, להגדלת מערכי המכירות והשיווק ולהרחבת הצוות שמפתח את Rabbit Hole. אליס מעסיקה כיום כ-400 עובדים, רובם בישראל, והיתר במשרדים בניו יורק, לונדון והאנוי. "המטרה שלנו היא שארגונים יוכלו לסמוך על מערכות ה-AI שלהם ולדעת שהן יפעלו כפי שתוכננו", מסר נועם שוורץ, מנכ"ל ומייסד-שותף של אליס. "כדי להגיע לשם צריך להציב מול המודלים מומחים שמאתגרים אותם מדי יום".
לתשומת לבכם: מערכת גלובס חותרת לשיח מגוון, ענייני ומכבד בהתאם ל
קוד האתי
המופיע
בדו"ח האמון
לפיו אנו פועלים. ביטויי אלימות, גזענות, הסתה או כל שיח בלתי הולם אחר מסוננים בצורה
אוטומטית ולא יפורסמו באתר.
כתבות
ני"ע
