הסטארט-אפ הישראלי שעשה שינוי כיוון והפך לחומת המגן של אנתרופיק

כשאקטיבפנס הוקמה ב-2018, עולם הטכנולוגיה התמודד עם אחת הבעיות הגדולות של עידן הרשתות החברתיות. פלטפורמות אינטרנט ענקיות, כמו פייסבוק, יוטיוב, טיקטוק ודיסקורד, הוצפו בכמויות אדירות של תוכן אלים, הונאות, תעמולה קיצונית ודיסאינפורמציה, אבל התהליכים שנועדו לאתר ולהסיר את התוכן הזה עדיין נשענו במידה רבה על עבודה ידנית. ארבעת מייסדי החברה, נועם שוורץ, אלון פורת, אייל דייקן ויפתח אור, זיהו את הפער הזה, והחליטו לבנות מערכת שתאפשר לחברות אינטרנט לנטר תכנים מזיקים בצורה אוטומטית ויעילה יותר.

● מנכ"ל הסטארט-אפ שנמכר לסיסקו ב־400 מיליון דולר בראיון ראשון
● שווי של חצי מיליארד דולר, בלי פרות: האם רימילק בדרך לשנות את תעשיית החלב?

אקטיבפנס פיתחה שכבות טכנולוגיות שסייעו ללקוחות להבין אילו תכנים מפירים מדיניות, לזהות איומים בזמן אמת ולנטר טרנדים והתנהגויות חריגות ברשת. "הבעיה הזאת הייתה הרבה יותר מורכבת ממה שאנשים חושבים", אומר לגלובס מנכ"ל החברה נועם שוורץ. "זה לא מנוע פשוט של קטגוריות, או איזושהי מערכת בינה מלאכותית בסיסית. יש אינספור דרכים לפגוע באינטרנט, ולכן צריך מחקר עמוק ואלגוריתמיקה מאוד מתקדמת".

וכך, מספר שנים לאחר הקמתה, בשנת 2021 - נכנסה אקטיבפנס לרשימת הסטארט-אפים המבטיחים של גלובס, כשמאחוריה כבר עשרות לקוחות מעולמות הגיימינג, הענן, הרשתות החברתיות והדייטינג. באותה תקופה החברה דיווחה על צמיחה מהירה במיוחד, לאחר שהקורונה הגדילה משמעותית את נפחי הפעילות ברשת ואת הצורך במערכות ניטור מתקדמות. מאז, לדברי שוורץ, עסקי הליבה המקוריים של החברה המשיכו לצמוח בקצב משמעותי. "הביזנס הזה גדל בערך פי חמישה או שישה מאז", הוא אומר. אלא שבזמן שהחברה המשיכה להתרחב, התרחש שינוי עמוק הרבה יותר בתעשיית הטכנולוגיה כולה.

הרגע שבו ChatGPT שינה את החברה

ההשקה של ChatGPT בסוף 2022 הייתה מבחינת אקטיבפנס רגע מכונן. בתוך חודשים ספורים, עולם הבינה המלאכותית הגנרטיבית עבר ממגרש ניסיוני יחסית לטכנולוגיה שנכנסה כמעט לכל תעשייה אפשרית. "פתאום מודלים עברו מלהיות קונספט של גיקים למיינסטרים", אומר שוורץ. "ואז גם הבנו שהם יכולים להפוך לכלי מאוד משמעותי בידיים של שחקנים רעים".

לדבריו, מהר מאוד החלו גורמים עברייניים להשתמש במודלים גנרטיביים לייצור מתקפות פישינג, נוזקות, ספאם ותוכן מטעה בהיקפים שלא נראו קודם. במקביל, גם החברות שבנו את המודלים עצמם החלו להבין שהן צריכות שכבת הגנה חדשה. "כמעט כל חברה שבונה מודלים החלה לפנות אלינו", הוא מספר. "הן רצו להבין איפה נקודות התורפה של המודלים שלהן, איך מונעים שימוש לרעה ואיך מזהים מתקפות בזמן אמת".

כך נולדה בתוך החברה פעילות חדשה לחלוטין. אם בעבר אקטיבפנס עבדה בעיקר מול פלטפורמות אינטרנט ורשתות חברתיות, היא החלה לעבוד גם מול חברות AI וארגונים שהטמיעו מודלים גנרטיביים במוצרים שלהם. בתוך זמן קצר, תחום ה־AI Safety הפך ממנוע פעילות קטן יחסית לאחד ממנועי הצמיחה המרכזיים של החברה.

"הבנו שהחברה השתנתה מקצה לקצה", אומר שוורץ. "זה כבר לא רק Trust & Safety במובן הישן. מדובר בלקוחות אחרים, במוצרים אחרים ובעולם אחר לגמרי".

 נועם שוורץ / צילום: Alice

לא רק להגן על מודלים, אלא גם על המותגים

הלקוחות החדשים של החברה כבר לא היו רק רשתות חברתיות או פלטפורמות תוכן. יותר ויותר ארגונים שהחלו לשלב בינה מלאכותית במוצרים שלהם גילו שהם צריכים מערכת שתפקח על האופן שבו המודלים פועלים מול המשתמשים. "שוק ה־AI Security מתמקד הרבה פעמים בשאלה אם אפשר לפרוץ למודל או לגרום לו לכתוב קוד זדוני", מסביר שוורץ. "אבל אנחנו מסתכלים גם על השאלה איך ארגונים משתמשים במודלים בצורה בטוחה".

כך למשל, חברות שמפעילות שירות לקוחות מבוסס AI משתמשות לעיתים בכמה מודלים במקביל, כמו קלוד, OpenAI או ג'מיני. מבחינתן, האתגר הוא לא רק אבטחה טכנית, אלא גם שליטה בהתנהגות של המערכת מול הלקוחות.

"אם חברת תעופה מפעילה שירות לקוחות מבוסס AI, היא צריכה לוודא שהתגובות אחידות, שהמערכת לא תייצר טעויות מביכות ושאי אפשר יהיה לנצל אותה לרעה", הוא אומר. "צריך מערכת שיודעת לנטר בזמן אמת את כל האינטראקציות האלה".

לדבריו, היתרון של החברה מגיע מהדאטה העצום ומהניסיון שנצבר במשך שנים בזיהוי התנהגויות מזיקות ברשת. "אנחנו מביאים לעולם ה־AI את כל היכולות שפיתחנו לאורך השנים בעולמות הניטור וההגנה".

המהפך ל"אליס": "איתות שיש פה משהו חדש"

ככל שעולמות הבינה המלאכותית הפכו למרכז הפעילות של החברה, בהנהלה הבינו שגם המותג הישן כבר לא משקף את מה שהחברה הפכה להיות. בשנה האחרונה התקבלה ההחלטה לבצע מיתוג מחדש ולהחליף את השם לאליס. "השינוי בשם היה איתות לשוק שיש פה משהו חדש לחלוטין", אומר שוורץ. "אבל הוא גם סימן תהליך פנימי של התחדשות".

לדבריו, הבחירה בשם נולדה מהתחושה שעולם הבינה המלאכותית מזכיר במובנים רבים את "אליס בארץ הפלאות". "אנשים מרגישים שהם נכנסו לעולם חדש שהם עדיין לא באמת מבינים איך הוא עובד", הוא אומר. "זה קצת כמו לעבור דרך המראה".

גם בתוך החברה עצמה השינוי היה מורגש. עובדים שהגיעו במקור מעולמות המודרציה והניטור נדרשו ללמוד שפה חדשה לגמרי של מודלים, סוכני AI ואבטחת מערכות גנרטיביות. "הרבה מהעובדים צמחו יחד עם השינוי הזה", אומר שוורץ. "הם למדו להבין את העולם החדש ולהתפתח יחד איתו".