בדרך לאסדרה: דוח שהזמין משרד המשפטים בוחן את אתגרי הבינה המלאכותית בפינטק

התאמת מבנה ההשקעות של הלקוח להעדפות אישיות, ניתוח שאלות הלקוחות בצ'אט־בוט כדי להפנות את הלקוח ליחידה המתאימה, ומערכת לזיהוי פשיעה כלכלית שהוטמעה בבנקים. אלו הם רק חלק מהפיתוחים הטכנולוגיים שכוללים בינה מלאכותית (AI), אשר נכנסה לחיינו בשנים האחרונות. AI מאתגרת את מערכת המשפט, שנדרשת להתאים את הכלים למציאות שבה שיקול הדעת האנושי מוחלף בשיקולו של אלגוריתם.

בדוח מקיף וראשון מסוגו, שבוצע לבקשת משרד המשפטים על ידי מומחים מובילים מאוניברסיטת תל אביב, נחשפים שימושי הבינה המלאכותית במגזר הפיננסי בעולם, האתגרים העומדים בפני הרגולטורים ומה המצב בעולם מבחינת אסדרת חקיקה וכללים.

"בבינה המלאכותית טמון פוטנציאל עצום עבור הציבור, בין היתר בדרך של הנגשת שירותים פיננסים והגברת התחרות", מסביר מזמין הדוח - המשנה ליועצת המשפטית לממשלה (משפט כלכלי), עו"ד מאיר לוין. לדבריו, האתגרים שמציבה AI לא צריכים להרתיע מפני שילוב הטכנולוגיה, אלא הם מחייבים התמודדות יעילה. היועצת המשפטית לממשלה גלי בהרב מיארה הוסיפה כי "הדוח מהווה אבן דרך חשובה לקראת אסדרת תחום הבינה המלאכותית במדינת ישראל".

 עו''ד מאיר לוין, המשנה ליועמ''שית לעניינים כלכליים / צילום: רפי קוץ

מתן אשראי, ייעוץ השקעות וחיתום אשראי

הדוח סוקר את מגוון השירותים הפיננסים הכוללים שימוש ב־AI: מתן אשראי, מסחר בניירות ערך, ייעוץ השקעות ושירות לקוחות (צ'אט־בוטים), חיתום אשראי וביטוח. בתחום המסחר, שילוב ה־AI הופך אותו ליעיל ורווחי. למשל, בעסקאות שבהן האלגוריתם מנסה לרכוש או למכור מניה כשהיא מגיעה למחיר מוגדר. המערכת חוזה, על פי דפוסים מן העבר, השפעה על המחיר - ומצליחה לבצע אלפי עסקאות באלפיות השנייה. המערכת גם מספקת חיזוי למצב השוק בעתיד. בכך היא משרתת גופים שמנהלים את כספי הציבור, כמו קרנות פנסיה, חברות ביטוח ובנקים.

הדוח מתאר את האתגרים במצב זה: חשש לתופעת ה"הידבקות", שמשמעותה קריסה בעקבות הסתמכות על אותם מקורות. אתגר נוסף במסחר בניירות ערך הוא הפגיעה בתחרות. פריסה נרחבת של מודלים מבוססים בינה עלולים להעלות "קנוניה שבשתיקה" ללא אינטראקציה אנושית.

המומחים גם מפנים את תשומת הלב לקשיי אכיפה כאשר מדובר בעבירות של מסחר בניירות ערך. תרמית, שימוש במידע פנים ומניפולציה דורשות יסוד נפשי של כוונה מצידו של המבצע. מסחר אלגוריתמי, המבוסס AI, עשוי להקשות על הוכחת היסוד הנפשי.

הבינה משמשת לכריית מידע "אלטרנטיבי"

חיתום אשראי הוא יישום מרכזי בתחום הפיננסי. הבינה משמשת לכריית נתוני מידע "אלטרנטיבי" ולניתוח הסיכון של לקוח מסוים. קיים חשש כי שיפור הדיוק בהערכת הסיכון במתן הלוואה יוזיל את האשראי ללווים בסיכון נמוך, אך ייקר את האשראי ללווים מסוכנים יותר. מצב זה עלול לפגוע בקבוצות אוכלוסייה חלשות ולהעצים את הפערים הכלכליים. חשש נוסף הוא פגיעה בפרטיות, משום שהמלווה אוסף מידע מהרשתות החברתיות.

תחומים נוספים שבהם נעשה שימוש ב־AI הם הביטוח וייעוץ ההשקעות. המערכת משמשת ללמידת הנתונים שנמסרים מהלקוח, ולאיסוף מידע מרחבי הרשת; מסייעת להתעדכן במצב שווי המניות המשתנה, וכן בשיקולי מס. האתגר בתחום זה הוא איכות הייעוץ. בחלק מהמדינות הכפיפו את הייעוץ האלגוריתמי לרגולציה שחלה על יועצי השקעות אנושיים, אך עולה חשש כי איכות הייעוץ מוגבלת. חשש נוסף הוא הכנסת אינטרסים זרים, באופן בלתי מודע, אל מנגנון קבלת ההחלטות.

אחד האתגרים המרכזיים הוא הקושי לפקח על מערכות AI. חברות העוסקות בפיתוח אלגוריתמים לצורך מסחר לא מעוניינת לחשוף את המודל, ומידע זה מוגדר כסוד מסחרי. בד בבד, מודל הבינה המלאכותית פועל בתור "קופסא שחורה", מצב שבו לא תמיד ניתן להבין כיצד המערכת מקבלת החלטות.

מצב זה מעלה את השאלה לזכותו של הפרט שמעוניין לקבל הסבר על החלטות שהתקבלו בעניינו. גם מתכנני המערכת לא יכולים לדעת מה המודל שמנחה את המערכת בקבלת החלטות, אם זו התפתחה לאחר התכנון הראשוני. קושי זה בא לידי ביטוי בתחום המסחר האלגוריתמי, שבו עשוי האלגוריתם לאמץ דרכי פעולה בלתי חוקיות. למשל, הרצת מניות.

המומחים מסבירים כי במטרה לקדם חדשנות ולאפשר לציבור ליהנות מיתרונות הבינה המלאכותית, נדרשת היערכות משפטית. אולם, בפני הרגולטורים עומד אתגר בחינת הפיתוחים החדשים, תוך בחירת איזונים נדרשים. במסגרת הדוח הועלה, בין השאר, פתרון בדמות חיוב החברות להסביר את ההחלטות שנטלה הבינה המלאכותית. מערכות ה־AI לא יוסדרו בהכרח בחקיקה ובחינתן עשויה להוביל למתן פרשנות לחוק קיים, ובחיזוק המקצועיות של גורמי הפיקוח.

המומחים: לא נכון לקבוע כללים אחידים

המומחים ממליצים להתחיל באסדרת נושא הרישוי ומתן אשראי. נוסף על כך, הם סבורים שלא נכון לקבוע עקרונות אחידים, וכי בתחום הפיננסי המורכב יש לשלב זרועות ולהגיע בהסכמה לקביעת כללים מנחים - במקום שכל גוף יגבש לעצמו מדיניות. לדברי עו"ד לוין, "הרגולטורים הכלכליים הביעו את הסכמתם לבחון את ממצאי הדוח ומסקנותיו ולקיים חשיבה משותפת על אופן ההתמודדות עם האתגרים. עבודה זו תעשה בתוך הקונטקסט הרחב של העבודה הממשלתית בנושא, לרבות העובדה שמובלת על ידי משרד החדשנות, המדע והטכנולוגיה שמגבש תכנית לאומית בנושא".

את הדוח ערכו ד"ר ארי אחיעז ופרופ' דן עמירם מהפקולטה לניהול של אוניברסיטת תל אביב, ופרופ' אסף חמדני וד"ר קובי קסטיאל מהפקולטה למשפטים של האוניברסיטה.

הרכב האוטונומי אושר, אך טרם נקבע מתי יעלה לכביש

אחד הנושאים שהוסדרו בחוק, באופן תקדימי, הוא הרכב האוטונומי. החוק, שעבר בכנסת בחודש מרץ האחרון, מאפשר ניסויים מסחריים ברכב אוטונומי ללא נהג - במרחב גיאוגרפי מוגדר מראש.

החוק גם מניח תשתית לטכנולוגיה עתידית אשר צופה רמת עצמאות גבוהה מזו, שבמסגרתה הרכב האוטונומי לא יהיה מוגבל לתחום נסיעה מסוים. מעבר לכך, החוק יאפשר את שילוב הרכב האוטונומי בשירותי הסעה בתשלום. מדובר בציון דרך משמעותי בדרך לקביעת הסדר קבע להפעלת כלי רכב אוטונומיים שמשתמשים בטכנולוגיית AI.

כל מכונית תחובר למרכז בקרה

החוק קובע כי לכל מכונית אוטונומית תהיה חברה מפעילה, שתפעיל מרכז בקרה אשר יהיה בקשר עם המכוניות באופן רציף. ממרכז הבקרה יתאפשר, בעת הצורך, להשתלט מרחוק על המכוניות. במקרה של ביצוע עבירת תנועה, האחריות תוטל על החברה המפעילה - ולא על הנהג. עם זאת, בלתי אפשרי להטיל שלילת רישיון נהיגה על חברה, ובכיריה לא יסתכנו בעונש מאסר, אלא רק בקנסות.

למרות האסדרה בחוק, עדיין לא ברור באופן ודאי מתי הרכבים הניסויים יעלו על הכביש. במשרד התחבורה אומרים כי הם ערוכים ומוכנים לקבלת בקשות לפיילוט. בין החברות שנערכות להשתתף בניסויים הראשונים, נמנות מובילאיי ויאנדקס. ממובילאיי נמסר כי היא נערכת לקבלת היתר ולהתחלת הניסוי בסוף 2022. מיאנדקס נמסר כי הם פועלים מול משרד התחבורה במטרה להתקדם בהליך.