פאנל בינה מלאכותית / צילום: איל יצהר, גלובס
מה יכול להוביל לכך ששלושה מהנדסי בינה מלאכותית מוכשרים עלולים למצוא את עצמם יושבים במשך שלוש שנים ללא עבודה בחברת סטארט-אפ צעירה? ומהו החסם המוביל להתפתחות תחום הבינה המלאכותית היום בישראל? שאלות אלה ואחרות נדונו בפאנל "בינה מלאכותית, פיתוח עצמאי, חיצוני או בכלל לא", אשר נערך היום בכנס The Enterprise Technology Summit של גלובס ו-JP Morgan.
בפאנל השתתפו זוהר ברונפמן, מייסד שות, ומנכ"ל חברת Pecan, יודפת הראל-בוכריס, שותפה מנהלת בקרן Blumberg Capital המשקיעה בסטארט אפים בתחום, עופר לביא, עוזר לסגנית הנשיאה למחקר טכנולוגיות בינה מלאכותית ב-IBM, ותומר מיכאלי, שותף מנהל בקרן Viola Fintech. את הפאנל הנחו עורך מדור ההייטק של "גלובס" עמרי זרחוביץ' וכתבת ההייטק אושרית גן-אל.
לביא ציין כי "ב-2016 ערכנו סקר לבחון מהם החסמים להתפתחות תחום הבינה המלאכותית בארגונים שונים. 46% מהמנהלים אמרו כי החסם העיקרי הוא מחסור בכוח אדם. ב-2018, כבר אמרו 64% כי זה החסם. הכוונה היא לא למחסור לבעלי תפקידים מאוד מסויימים אלא לכל שרשרת התפקידים: מדעני נתונים, חוקרים, מפתחי אלגוריתמים, מהנדסים".
יש לארגונים גם חסם בהבנת הצורך בכלים הללו? איך הם מחליטים מתי לפתח את הכלים בבית ומתי בחוץ?
לביא: "מבחינת ההבנה ארגונים יודעים היום מה הם צריכים מבחינת AI. אם מחלקים את זה לשלושה חלקים: חומרה, אגוריתמיקה ונתונים, ברור שאת החומרה אין צורף לבנות בבית. כל החברות הגדולות מספקות שירותי ענן. אבל, גם את האלגוריתמיקה היום פחות ופחות צריך לבנות בבית. אותן חברות ענן מספקות גם אלגוריתמים מן המדף, שאפשר לאמן ולתקף על הנתונים שלכם. באשר לשאלה של הפקת הדאטה והתיוג שלו, בתחומים מסויימים עבור ארגונים מסויימים, זו המשימה שצריך להשאיר בפנים. עבור אחרים, אפילו את זה אפשר לרכוש".
הראל בוכריס: "חברה כמו בנק, שאינה מכוונת את עצמה לאקזיט, לא צריכה לבנות לעצמה תיק IP, ויש לה אפשרות לשילוב עדין בין רכישה מבחוץ לבין פיתוח בתוך הבית, אך תוך שהיא לוקחת בחשבון גם שיקולי פרטיות. לעומת זאת חברת סטארט-אפ שכן עשויה לשאוף לאקזיט, צריכה לקחת בחשבון שעליה לשמור על כל הקניין הרוחני שרלוונטי למכירת החברה".
לחברות הגדולות אין רצון להשאיר את הידע אצלן?
הראל בוכריס: "הן לא צריכות להשאיר אצלן את האלגוריתמים אלא את התובנות הנובעות מן השימוש בהם".
עד כמה חשוב לכם שחברות הייטק שאתם משקיעים בהן יהיו מבוססות AI?
מיכאלי: "לא אכפת לי אם לעסק יש AI, אלא אם פותרים בעיה אמיתית מעניינת. השאלה היא יותר אם הצוות טוב, אם מבינים את הרגולציה של התחום. למשל האם הם יודעים להסביר את מה שהאלגוריתם עושה, ברמה שהרגולציה דורשת".
הראל-בוכריס: "אנחנו לא מסתכלים על כמות ה-AI , אלא על השימוש, לאן החברות רוצות להגיע, לאן המוצר הזה יוביל אותן ובאיזה שוק הן מתמודדות. בינה מלאכותית היא כלי ולא מטרה. אנחנו מעודדים אותם להשתמש במוצרים חיצוניים ולפתח בתוך הבית את כל מה שקשור לליבת הפעילות.
"אנשי הבינה המלאכותית הם אנשים מאוד יקרים, המשכורות יכולות להגיע גם ל-140 אלף דולר לשנה. אנחנו לא נעודד את החברות לגייס את האנשים הללו כדי לפתח יכולות שהן לא בליבה".
החברות יודעות להבחין בהקשר הזה בין יכולות ליבה ולא ליבה? הן לא נלהבות מעצם העיסוק בבינה מלאכותית?
הראל-בוכריס: "כאן נכנס לפעולה הדירקטוריון. אנחנו לא נתערב לחברה בתוכנית הפיתוח שלה, אך כן ננסה לייעץ ולכוון. נעודד אותם לפתח כלי AI, רק כשהם יודעים מה השימוש המדוייק המתוכנן עבורם, וזה משהו שבדרך כלל מבינים רק בשלב השני של האבולוציה של הסטארט אפ".
מיכאלי: "קורה, לא לעיתים קרובות אבל גם לא נדירות, שסטארט-אפים מתחילים לבנות את יכולות ה-AI לפני שהם יודעים מה בכלל הבעיה שהם רוצים לפתור. יש לנם יכולות מדהימות, אולי המייסדים עצמם הם גאונים בתחום, אבל ידרשו בכלל עוד שלוש שנים עד שיהיו נתונים שהגאונים האלה יכולים לעבוד עליהם. הם מתבזבזים על זה. יש תחומם שבהם אפשר ליצר מידע במהירות, אבל יש תחומים שבהם המידע צריך להיאסף בעולם האמיתי. למשל אתה לא יכול לאמן אלגוריתם על החלטות האם לתת אשראי, בלי שנתת אשראי אי אילו פעמים למישהו, תיעדת את המאפיינים שלו וראית אם הצליח להחזיר או נכשל. אי אפשר לזרז את התהליך הזה".
ברונפמן: "בעצם אחד האתגרים היום עבור החברות הוא לאו דווקא פיתוח האלגוריתמים, אשר אני מסכים שאפשר לרכוש גם מבחוץ, אלא לבנות את מאגר המידע כך שיתן לך את הניבוי הנכון. זו עבודה תשתיתית, ארגונית של מדען הנתונים. מהניסיון שלנו, 80% מזמן פרוייקט בתחום הזה הוא הכנסת המידע והארגון שלו". ברונפמן ציין כי פקאן מעוניינת לבצע אוטומציה של חלק מן התהליכים הללו.
כיצד החברות יכולות להימנע מהטיות באלגוריתמים, למשל הטיות שגורמות לכך שהאלגוריתם מפלה אוכלוסיה מסויימת? האם יש להתמודד עם ההטיות כשהן עולות, או להיערך אליהן מראש?
מיכאלי: "אני ממליץ לקרוא את הספר Weapons of math destruction, על טעויות והטיות נוראיות של בינה מלאכותית. הטיות הללו לרוב נובעות באמת מבעיות במתימטיקה אלא שהדאטה בעצמו מוטה, או שכותב האלגוריתם מוטה, למשל אם הוא גבר או אפילו, לא נעים להגיד, גבר לבן".
לביא: "הספר הזה והתנסויות כאלה העירו את התעשיה. היום כולם מודעי לצורך לדעת להסביר מה עשה האלגוריתם, ולמפות את ההטיות שאתה עצמך עלול להביא לסיטואציה, מראש. קיימים היום אפילו כלים מסחריים וכלי קוד פתוח, שמאפשרים לבדוק את המידע ואת האלגוריתם ולראות האם יש בהם הטיה והאם התוצאה היא הוגנת או לא. אפשר אפילו לבצע מניפולציה על המידע הקיים, כדי שהתוצאה לא תהיה מוטה בסופו של דבר".
אבל זה דורש גם שיפוט ערכי. יש מי שיאמר שצריך לתקן, למשל, אלגוריתם שמביא יותר גברים לראיונות עבודה בהייטק. יש מי שיאמר שהבעיה היא עמוקה הרבה יותר מההטיה בראיונות עבודה, ושאי אפשר להנדס את האלגוריתם אלא לשנות את החינוך, התרבות וכן הלאה.
לביא: "לבינה המלאכותית יש הזדמנות לא לחזור על הטעויות שעשו בני האדם".
בוכריס-הראל: "פעם חשבנו שהגינות והוגנות ומערכות בינה מלאכותית אלה דברים שחיים בנפרד, אבל הם חייבים להתקיים יחד ובמקביל. הכיול לא יכול להתקיים בסוף". עוד הוסיפה בוכריס הראל כי: "אבל אנחנו עוד לא בשלב שבו אנחנו יכולים להוריד את הידיים מן הגה. מערכות צריכות לבצע את המשימה יחד עם בני אדם. הרגולטורים השונים בסקטורים השונים התעוררו, ועכשיו גם הם דורשים מעורבות אנושית בחלק מן המקרים".
גם בעתיד תהיה בקרה אנושית?
לביא: "תמיד"
מיכאלי: "הציפייה לאוטומציה ב-100% היא איוולת. פרטו עובד חזק: אפשר לעשות אוטומציה ל-80% מהתהליך, במקום להשקיע מאמצים אדירים וסכומי עתק כדי לסגור את ה-20% האחרונים".
חברות שאינן סטארט-אפים בתחום ההייטק, מבינות את הצורך בכלים הללו?
ברונפמן: "אצל החברות הוותיקות, בעיקר אלה שנמצאות על התפר בין חברה מסורתית לחדשנית, והן עדיין לא יודעות בדיוק מהם כלי בינה מלאכותית וכיצד אפשר להשתמש בהם, יש איזו דואליות כי הן מצד אחד מאוד רוצות, בעיקר כשהן רואות את הגדולות משתמשות בכלים הללו ומפחדות שיווצר פער, אבל גם משום שזה באז והן מסתקרנות ורוצות להיות איפה שנמצאים כולם. אבל אם הן לא נערכות נכון, הן נכשלות ונכוות ומאבדות אמרו ואז אומרות - איזה באז מעצבן זה.
"השלב הראשון, שצריך להשקיע בו הרבה מאמץ, הוא למצוא את אירוע השימוש הנכון, ממש כמו בסטארט אפ. איפה יש בארגון מידע שימושי? איזו השקעה תחזיר את עצמה? רק אחר כך אפשר לעשות עבודה טכנית.
"ומנגד - זה לא נגמר בקבלת מודל מנבא. לזה אין ערך. השאלה היא מה עושים עם התוצרים של המודל. שם אנחנו הכי רחוקים ממערכת אוטונומית. שם הבינה של האדם הכי חשובה".
לסיום אמרה בוכריס-הראל כי "צריך שיהיה אקוסיסטם כמו בסייבר. מהחינוך דרך האוניברסיטה. 4000 איש לא יוכלו לעשות את העבודה הזו בשביל כל השוק".