היזם שמנסה להילחם בקלות שבה ניתן לזייף את דמותו של כל אחד

מיכאל מטיאס, תציג את עצמך.
"גדלתי בין תל אביב לקליפורניה, את כל שנות בית הספר היסודי העברתי בארה"ב. התעצבתי לאור המקומות האלה: שני ההאבים הכי גדולים לטכנולוגיה ויזמות בעולם. אני מתכנת מסביבות גיל 8.

● הצוללת | החוקרת שמגלה: ארה"ב תלויה בסין כדי לפתח את הצבא שלה
● הצוללת | החוקר שמגלה: מה עומד מאחורי ה"בייבי בום" של המלחמה ועד כמה ישראל חריגה
● הצוללת | מומחים לפוליטיקה אמריקאית: מה שקרה השבוע ביחסים בין ארה"ב לישראל - "מטורף"

"אבא שלי (ד"ר יוסי מטיאס, מנהל חטיבת המחקר של גוגל העולמית, שרואיין רק לאחרונה לגלובס - ה"ו) הצטרף לגוגל לפני כ-20 שנה, אחרי שעבר דרך סדרה של חוויות כסטארטאפיסט. הוא הקים את מרכז הפיתוח של גוגל בארץ, ולראות את זה כילד - זו הייתה חוויה בלתי רגילה".

כמנכ"ל הסטארט־אפ Clarity, שפיתח טכנולוגיה שמזהה דיפ־פייק בסרטונים, תמונות ואודיו - נדמה ששאבת השראה גם מהעיסוק של אמא, ד"ר שביט מטיאס, לשעבר המשנה ליועץ המשפטי לממשלה.
"כן, היא הקימה את המחלקה למשפט בינלאומי במשרד המשפטים, כך שהיא יזמת בעצמה.

"אני חושב ששניהם יחד היו חלק משמעותי מאוד בתפיסה שלי את מה שאפשרי בעולם. באיזושהי החלטה מודעת, ממש עד הגיוס, אפשרתי לעצמי להתפרס על כמה שיותר תחומים: מספורט ומוזיקה ועד הנדסה ומשפטים, כדי לחוות את הכול. ב-2019, אחרי הצבא (כקצין ביחידת המודיעין 8200 - ה"ו) יצאתי ללימודי תואר ראשון ושני בסטנפורד, ושם הרגשתי שמצאתי משהו שמשלב יחד כמה מהתחומים האלה. התואר היה במדעי המחשב בשילוב עם פילוסופיה, כלכלה ופסיכולוגיה".

הלימודים בסטנפורד הובילו אותך להקמת Clarity. ספר איך הדברים קשורים.
"הקשר עובר דרך פרופסור נודע בתחום הדמוקרטיה בשם לארי דיימונד, שלימד אותי קורס בשם The Spirit of Democracy. אני זוכר היטב את המפגש הראשון איתו. עמד מולי אדם מבריק, בן 65, שהתחיל את השיעור בנאום בן עשר דקות על מהי דמוקרטיה. לקראת סוף הדברים הוא הסביר מדוע הוא מאמין שהדמוקרטיה מתחילה ליפול ברחבי העולם. כשהוא דיבר על זה, הוא ממש התחיל לדמוע, והייתה לכך השפעה גדולה עליי.

"סביב קיץ 2022, חודשים ספורים לפני שהושק ChatGPT, ישבנו כמה חבר'ה במעבדה של סטנפורד והצלחנו לגרום לתמונה של בנאדם להתחיל לדבר. אני יכול לקחת תמונה שלך וקטע קול שלך ולגרום לך להגיד כל מה שאני רוצה. זה היה מפחיד. חלק מהאנשים במעבדה הסתכלו על זה ואמרו - מגניב, יאללה, בואו נמשיך. אני זוכר את עצמי מסתכל על התוצרים האלה, ואומר לעצמי, כן, זה מגניב. אבל זה משנה פונדמנטלית את התפיסה של איך אנחנו הולכים לחוות את עולם הדיגיטל. אחרי הגילוי הזה ישבתי לארוחת צהריים עם דיימונד, הראיתי לו סרטון דיפ-פייק שבו מופיע מארק צוקרברג. הוא הסתכל עליי ואמר: זו מתקפה של מיליארד דולר על הדמוקרטיה".

יכול להיות שזה כבר כאן.
"את האימפקט קשה למדוד או להוכיח, אבל יש מקרים מטרידים. למשל, בבחירות המקדימות לנשיאות ארה"ב, תחילת 2024, נשלחו לתושבים במדינת ניו המפשייר הודעות קוליות שזויפו בקולו של ג'ו ביידן ובהן הוא נשמע אומר: אל תצביעו לי, שמרו את הקול שלכם לבחירות הכלליות בנובמבר".

ניתן להנדס כל אחד?
"כן, כל מה שצריך הוא הקלטה של הקול שלך ותמונה, אפילו לא צריך סרטון, ומשם המכונה כבר רצה לבד. דיפ-פייק הוא היכולת של AI לייצר משהו שלא רק דומה לאדם זה או אחר, אלא הוא זהה לחלוטין. כל פיקסל זהה לפיקסל המקורי. זה ברמת הניואנס, עד נקודת החן, ואין שום צורך באדם שילטש את הווידאו".

כמה עולה לייצר כיום מתקפת דיפ-פייק?
"אפשר לייצר כיום דיפ פייק טוב גם בסנטים בודדים".

סנטים בודדים?
"כן. יש לנו בחברה 'צוות אדום', שמייצר מאות אלפי דיפ־פייקים ביום כדי לאמן את המודלים, את המכונה, ואנחנו רואים איך העלויות הולכות וקטנות. זה די מדהים. יורופול (ארגון השיטור האירופי - ה"ו) פרסם לפני כמה שנים תחזית, שהוא עדיין עומד מאחוריה, ולפיה ב-2026 יותר מ-90% מהתוכן באינטרנט ייוצר בידי בינה מלאכותית".

אירוע הדגל של עולם הסייבר

רואים דיפ-פייק גם בארגונים. בסוף 2024 עובדים ב־Wiz קיבלו הודעה בקולו של המנכ"ל אסף רפפורט. רק ערנות של אחד העובדים סיכלה את התרמית.
"עד היום היו שתי דרכים עיקריות להשיג כסף מארגונים: האחת, פריצת שרתים ובקשת כופר; והשנייה, פריצה סייברית לחשבון הבנק של הארגון. אלה דברים קשים מאוד לביצוע, כי טכנולוגיית ההגנה משתכללת ומשתנה כל הזמן. הרבה יותר קל להתקשר אל העובד או הבנקאי, ולהגיד לו: תעביר לי את הכסף, כי אתה מזהה אותי ואני מורשה חתימה. זה קורה גם דרך שיחות וידאו. יש זינוק של אלפי אחוזים בהונאות האלה מרבעון לרבעון".

בתחילת 2024, עובד תאגיד ההנדסה הבריטי Arup העביר 25 מיליון דולר לפושעי סייבר כי חשב שקיבל הוראה מסמנכ"ל הכספים בשיחת וידאו.
"זה היה אירוע דגל של עולם הסייבר. העובד עלה לשיחה מול חמישה עובדים, כולל סמנכ"ל הכספים, והם אמרו לו שיש עסקה שצריך לבצע, ושהיא צריכה לקרות די מהר. העובד, בלי למצמץ יותר מדי, התחיל להעביר את הכספים. רק כעבור כמה שעות הוא הבין שהאנשים שחשב שדיבר איתם לא היו אמיתיים".

יש גם מקרים שבהם דמויות פיקטיביות מועלות בזום בראיונות עבודה למשל?
"כן, בקיץ האחרון מרגלים צפון־קוריאנים התחזו לאמריקאים שמתמודדים על משרה לעבודה מרחוק. הם רואיינו מרחוק בשיחת זום, ואז, אחרי שהתקבלו לעבודה, הם ניסו לפרוץ למערכות הארגון דרך תוכנה זדונית שהשתילו במחשב. זה קרה, למרבה האירוניה, בחברה לאבטחת מידע בשם KnowBe4".

איך - ברמה הטכנולוגית - אפשר להעלות לשיחת זום אנשים פיקטיביים?
"זה דומה להעלאה של פילטרים תוך כדי שיחה, כמו אוזניים מצחיקות ואיפור. באותה תצורה אפשר, בזמן אמת, ממש לשנות את תווי הפנים שלנו ולשנות את הסימבול של הקול שלנו. זה די מטורף".

ייסדת את Clarity לפני כשנתיים וחצי וגייסת כ־20 מיליון דולר מקרנות הון סיכון מובילות. ספר על הממשק שלכם עם מערכת הביטחון הישראלית.
"התחלנו לעבוד בשיתוף עם הממשלה ומערכות הביטחון בינואר 2023, כשהופץ סרטון על אברה מנגיסטו (שהיה חטוף בידי חמאס במשך עשור ושוחרר בעסקת החטופים בפברואר - ה"ו) והיה חשד שמדובר בדיפ-פייק. המשרד עדיין היה אז בניילונים. בחמש שעות של עבודה מאומצת על הסרטון הזה השגנו התקדמות טכנולוגית של חמישה שבועות. אז הבנו שלא נהיה חברה רגילה מעמק הסיליקון. הבנו שזה הולך להיות גן חיות, ואנחנו נצטרך להתנהל בתוכו".

נמשיך ל־7 באוקטובר.
"ב-6 באוקטובר הייתי באטלנטה ושם נפגשתי עם אנשי CNN, שלימים הפכו ללקוח שלנו. ב-7 באוקטובר התחלנו לעבוד עם כוחות הביטחון. בדקנו גם סרטונים שכבר עלו לרשת, כדי לדעת אם אפשר להאמין להם כמקור מודיעיני, וגם חומרים מסווגים יותר שלא עלו לרשת, כדי להפיק מהם מודיעין. עד היום אנחנו מסייעים למדינה בתחום. היום כבר ברור שדיפ־פייק הוא עניין שחורג הרבה מעבר לפייק ניוז. זה עניין של ביטחון לאומי".

"כשמעורב כסף, להטיל ספק"

כבכיר בגוגל אבא שלך משתייך לתאגיד שמפתח מנועי וידאו-AI כמו Veo 3 החדש, שבוראים עולמות שנראים אמיתיים לחלוטין. כיום מנוי חודשי עולה 250 דולר, ומחר אולי שני דולר. אתה, לעומתו, מתריע על הסכנות.
"ארוחות שישי אף פעם לא מפסיקות להפתיע. בתפקידו הנוכחי אבא מקדיש את רוב זמנו לפריצות הדרך של בינה מלאכותית וחישוב קוונטי בתחומי הבריאות ובתחום ההתמודדות עם אסונות טבע בעולם. זו התשוקה שלו. אני רואה את שני צדי המטבע. בזכות הבינה המלאכותית אנשים כמו שדרן חדשות 12 משה נוסבאום, שחלה ב-ALS, יכול לחזור ולשדר. נוכל לחזור לראות בסרטים שחקנים שכבר לא מופיעים על המסך כמו ברוס וויליס ומייקל ג'יי פוקס. יש המון אלמנטים חיוביים מאוד בטכנולוגיות אלה. מנגד, יש את צד האבטחה שצריך ללמוד להתמודד איתו".

החברה שלכם עובדת עם הרשתות החברתיות כדי לאתר בתוכן דיפ־פייק? באחרונה פורסמו מודעות שבהן לכאורה בכירים כמו אייל וולדמן ואפילו נגיד בנק ישראל אמיר ירון מציעים להצטרף לקבוצות השקעה.
"אנחנו לא עובדים איתם עסקית, אבל אנחנו כן עובדים מול גופים פנימיים בחברות האלה שנקראים Responsible AI. אם, למשל, מנכ"ל חברה שהיא לקוחה שלנו מופיע בפרסומת דיפ־פייק, אנחנו נתריע על כך מול הגופים האלה והם יפעלו להסרת המודעה".

אילו טיפים אפשר לתת לאנשים כדי להתנהל טוב יותר מול דיפ־פייק?
"אנחנו צריכים להבין שכבר אין ביכולתנו להסתמך על העיניים ועל האוזניים כדי לאמת זהות של אדם כלשהו בדיגיטל. זה נכון בוודאי אחרי השקת Veo 3 של גוגל לפני כשבועיים. לכן אם פונים אלינו באמצעי דיגיטלי בעניין משמעותי, למשל טרנזקציות של כספים, צריך להפעיל שיקול דעת, וכן, גם להטיל ספק".