גלובס - עיתון העסקים של ישראלאתר נגיש

מחברות קוסמטיקה ועד אתרי שידוכים, כולם רוצים לזהות את הפנים שלנו, לפי הגזע

חברות קוסמטיקה, אתרי שידוכים, חנויות רהיטים ופרסומאים מגבירים את השימוש בתוכנות לזיהוי פנים לפי גזע ● האם החקיקה תוכל להילחם בטכנולוגיה החדשה השנויה במחלוקת, וה"מדויקת באופן מבהיל", כדברי המדענים?

"תוכנות לזיהוי פנים סופגות ביקורת כי חלקן שוגות בזיהוי אנשים שאינם לבנים" / צילומים: Shutterstock | א.ס.א.פ קריאייטיב
"תוכנות לזיהוי פנים סופגות ביקורת כי חלקן שוגות בזיהוי אנשים שאינם לבנים" / צילומים: Shutterstock | א.ס.א.פ קריאייטיב

כאשר ענקית הקוסמטיקה רבלון רצתה לדעת באיזה שפתון משתמשות נשים מגזעים שונים וממדינות שונות, היא לא הצטרכה לערוך סקר. במקום זה, שכרה את חברת קיירוס ממיאמי, שהשתמשה באלגוריתם ניתוח פנים כדי לסרוק תצלומים באינסטגרם.

ב-2015, היכולת לסרוק פנים ולזהות את הגזע שלהם הייתה עדיין בחיתוליה. היום מציעות יותר מתריסר חברות שיטה כלשהי של זיהוי גזע או מוצא אתני.

בשנים האחרונות, חברות נעזרות בתוכנות זיהוי גזע כדי להבין איך לקוחות מסוימים משתמשים במוצריהן, מי עוקב אחרי הפרסומת שלהן או מה אוהבים אנשים מקבוצות גזע שונות. חברות אחרות משתמשות בהן כדי לאתר מאפיינים גזעיים שונים באוספי תצלומים, בדרך כלל לצורך עיצוב פרסומות או לצרכים ביטחוניים כמו צמצום החיפוש אחרי מישהו במסדי נתונים. בסין, היכן שמעקב אחרי פנים נפוץ מאוד, מצלמות מעקב מצוידות בתוכנת סקירת גזע כדי לאתר מיעוטים אתניים.

פופולרי באתרי שידוכים

תוכנת זיהוי גזע היא תת-תחום של ניתוח פנים, סוג של בינה מלאכותית שסורקת מגוון של מאפיינים בפנים - מהקשת של הגבה עד לצורת עצמות הלחיים - ומשתמשת במידע הזה כדי להסיק מסקנות על המגדר, הגיל, הרגשות ואפילו האטרקטיביות של האנשים הנסרקים. זה שונה מזיהוי פנים, שגם הוא מתבסס על טכניקת בינה מלאכותית שנקראת למידת מכונה ומשמשת לזיהוי פנים מסוימות, למשל כדי לפתוח טלפון חכם או לזהות "גורמים מפריעים" בתוך קהל אנשים.

"ניתוח פנים הוא כלי שימושי כי אנשים קונים בקבוצות ומתנהגים בקבוצות", אומר בריאן בראקין, מייסד קיירוס שעזב אותה ב-2018 ומשקיע כעת בחברות סטארט-אפ.

לקמעונאים ולעסקים נוספים, ניתוח פנים בתצלומים מבטיח את היכולת ללמוד יותר על לקוחות בחנויות פיזיות, במידה רבה כמו השימוש בקוקיז (עוגיות) - קבצי הנתונים הקטנים שמתחקים אחרי פעילות האינטרנט שלנו כדי למקד פרסומות מקוונות לקהל יעד. "העולם הפיזי הוא חלל גדול של נתונים כי אין שם כלום", אומר אג'יי אמלני, סגן נשיא בכיר לפיתוח תאגידי באידמיה - פירמה צרפתית שמציעה זיהוי פנים. כעת המצלמות מתחילות למלא תפקיד דומה לזה של הקוקיז.

Haystack AI מניו יורק אומרת שלקוחותיה משתמשים בתוכנת הסיווג הגזעי שלה למיקוד של פרסומת לקהלי יעד, מחקרי שוק ועזרה באימות זהותם של אנשים. קוגניטק סיסטמס מגרמניה מציעה בין השאר איתור אתני לקמעונאים ולחברות אחרות לצורך איסוף נתונים סטטיסטיים על הלקוחות, אומר יורגן פאמפוס, מנהל המכירות והשיווק שלה ומציין שאף לקוח לא קנה עדיין רישיון לסיווג גזעי.

ספקטריקו, חברת סטארט-אפ בולגרית שמוכרת רישיון קבוע לא מוגבל לכלי הסיווג הגזעי שלה באלף אירו, אומרת שאתרי שידוכים (דייטים) משתמשים בו כדי לאמת שהפרופילים נכונים, ומפרסמים משתמשים בו כדי להכיר את סוגי הקהלים שצופים בשלטי חוצות חכמים. המייסד מרטין פרנב אמר שכמה לקוחות קנו את כלי הסיווג לפי גזע, ויותר לקוחות קנו אותו בשילוב עם כלי סיווג גיל ומגדר.

באתר של ++China’s Face, שהיא אחת מחברות זיהוי וניתוח הפנים הגדולות בעולם (הוערכה ב-4 מיליארד דולר במאי 2019, לפי חברת מודיעין השוק PitchBook) נאמר שכלי זיהוי הגזע שלה יכול לשמש לניתוח התנהגות צרכנים ומיקוד של פרסומת לקהלי יעד.

ניתוח של פנים מתנהל במידה רבה תחת הרדאר, אף שהוא סופג ביקורת כי מערכות גרועות מזהות לא נכון אנשים שאינם לבנים. בוסטון, סן פרנסיסקו, מדינת וושינגטון וקליפורניה הגבילו את השימוש בזיהוי פנים בחוק. יבמ, אלפאבית ומיקרוסופט הגבילו את עסקי זיהוי הפנים שלהן במיוחד במכירת תוכנות למחלקות משטרה.

כן לעסקים, לא לממשלות

המחקר סביב ניתוחי (אנליזות) הפנים נמשך. כמה מדענים אומרים שהאלגוריתמים שמאומנים לזיהוי פנים יכולים להיות מדויקים במידה מבהילה. בחודש מאי השנה, מדענים מאוניברסיטת רוהר בבוכום, גרמניה, פרסמו מאמר בכתב העת המדעי "משין לרנינג" ובו נכתב שהאלגוריתם שלהם יכול להעריך אם פנים הם לבנים, שחורים, אסיאנים, היספנים או אחרים בדייקנות של 99%.

כמה חוקרים ואפילו חברות שעוסקות בכך אומרים שניתוח פנים מבוסס גזע לא צריך להתקיים בכלל. עשרות שנים ממשלות אסרו על רופאים, בנקים ומעסיקים להשתמש במידע על גזע כדי להחליט באיזה חולה לטפל, לאלו לווים להעניק משכנתה ואיזה מועמד לקבל לעבודה. תוכנת זיהוי גזע עלולה לאפשר למוסדות ולמעסיקים, במכוון או שלא, לקבל החלטות בהתבסס על הרקע הגזעי של אדם בדרכים שקשה יותר להכיר, כי הן מתרחשות באלגוריתמים מסובכים או לא שקופים, לפי חוקרים בתחום.

שימוש ב-AI (בינה מלאכותית) לזיהוי גזע "נראה מזיק יותר ממועיל", אומר ארבינד נרינאן, פרופסור למדעי המחשב באוניברסיטת פרינסטון שחקר עד כמה אנונימיים יכולים להיות נתונים המשמשים לזיהוי בני אדם.

"אנשים מגזע מעורב יכולים לא להסכים עם איך שהאלגוריתם מסווג אותם", אומרת קרלי קיינד, מנהלת מכון אדה לאבלייס בלונדון, גוף מחקר שמתמקד ביישומים של AI. "למערכות טכנולוגיות יש כוח להפוך דברים לנתונים ועובדות למסקנות אובייקטיביות לכאורה".

תוכנות שמאפשרות למעסיקים לסרוק הבעות פנים של מועמדים לעבודה כשהם מתראיינים עלולות בלי כוונה להפלות בין מועמדים אם הן מתחילות להביא בחשבון גזע, אומרת קיינד, ומוסיפה שמשטרה המסווגת קבוצות אתניות בתוכנת ניתוחי פנים מסתכנת בהחמרת סטריאוטיפים גזעיים.

זיהוי גזע עלול להזיק גם אם חברות משתמשות בו לדחיפת אנשים אל מוצרים מסוימים או להצעת תמחור מפלה/מוטה, אומר איבן גריר, סמנכ"ל קבוצת הזכויות הדיגיטליות Fight for the Future.

השימוש בסריקת פנים בסין שנוי במחלוקת, בעיקר בשינג'יאנג, המחוז בצפון-מערב המדינה שבו מרגלות הרשויות אחרי המיעוט המוסלמי האויגורי. בשנה שעברה, יצרנית מצלמות מעקב סינית, הנגז’ו היקוויז’ן דיגיטל, פרסמה באתר שלה מצלמה שיכולה אוטומטית לזהות אויגורים, לפי כתב העת IPBM של תעשיית האבטחה.

בראקין, מייסד קיירוס שעזב אותה, שהוא שחור, שיבח תחילה את מערכת זיהוי הגזע שלה בשל יכולתה לסייע לעסקים לתפור שיווק למיעוטים אתניים. היום הוא מאמין שלתוכנת זיהוי גזע יש פוטנציאל ללבות אפליה.

בראקין אינו מתנגד לכך שעסקים ישתמשו בה, אך טוען שממשלות לא צריכות להיעזר בה, וחושש גם משימוש צרכני. קיירוס השיקה ב-2017 יישום חינמי שהראה איך שחורים, לבנים, אסייתים או היספנים נראים כשהם מעלים סלפי. "קיוויתי שאנשים יראו את ההומניות של אנשים אחרים", הוא אומר.

יותר מ-10 מיליון אנשים העבירו ליישום צילומי סלפי כדי לראות את התוצאות. רבים מהמשתמשים ביישום, בייחוד בברזיל, התלוננו שהתוצאה שהם קיבלו לא הייתה "לבנה" מספיק, אומר בראקין. היישום בוטל.

בצפון אירופה, רשת חנויות ריהוט השתמשה בתוכנת ניתוחי פנים של החברה ההולנדית סייטקורפ כדי לסרוק לקוחות שנכנסים לחנויות, וגילתה שרבים מהם היו צעירים מכפי שהיא ציפתה. היא שכרה לבסוף יותר מוכרנים בשנות ה-20 וה-30 לחייהם, לפי ג'ויס קרדונה, מנכ"לית Sightcorp. החברה שלה הפסיקה למכור את כלי סיווג הגזעים שלה ב-2017, מחשש שהוא מפר את חוקי פרטיות הנתונים באירופה.

Facewatch, חברה בריטית לזיהוי פנים שהתוכנה שלה מאתרת גנבים חשודים כשהם נכנסים לחנויות על-ידי השוואת סריקות פנים לאלבומי חשודים, ביטלה השנה אופציה לזיהוי גזע, מגדר (מין) או גיל של קונים, מפני ש"זה מידע לא רלוונטי", מסר דובר שלה.

"יש סכנות ביטחון באיסוף נתוני גזע שיכולים, בכוונה או שלא בכוונה, להיות מקושרים לזהות של אנשים", אומר אלכס היד, החוקר הראשי בחברת אבטחת הסייבר סקיוריטי סקורקארד. החברה שלו מצאה לאחרונה כ-6 אתרים עם חולשות אבטחה במסדי הנתונים על פנים של אנשים, כולל חברת זיהוי פנים ובית ספר אמריקאי להנדסה שחייבו סטודנטים להראות את פניהם כדי להיכנס למערכות המחשוב שלהם.

חברות שמציעות שירותי ניתוחי פנים אומרות שהנתונים הדמוגרפיים שהמערכות שלהן אוספות לא מחוברים לזהויות של אנשים. אבל חברות נתונים יכולות בתיאוריה לשלב מסדי נתונים שיווקיים שנִקנים ונמכרים ברשת וליצור תמונה מפורטת יותר של האנשים בהם, כלומר לחבר בין נתונים וזהויות, אומר היד.

"לפני כמה שנים, חברות שמכרו ניתוחי פנים היו פתוחות יותר לגבי יכולתן לסרוק מאפיינים דמוגרפיים", אומר זק דופמן, מנכ"ל בריארס דיגיטל, חברה בריטית לזיהוי פנים שעובדת עם רשויות חוק. "כשחברות טק גדולות החלו לספוג ביקורת על מערכות זיהוי הפנים שלהן, כולם הפסיקו לדבר על זה. היום, אף אחד לא מדבר על זיהוי אתני. לפחות לא בגלוי".

תגובות: דוברת של רבלון מסרה שאינה יכולה להגיב מפני שסריקת האינסטגרם התרחשה לפני כמה שנים. קיירוס לא הגיבה לפניות אליה.

עוד כתבות

מארק צוקרברג / צילום: shutterstock, שאטרסטוק

פייסבוק עקפה את התחזיות בעקבות מעבר של פרסום לאונליין

מספר המשתמשים היומיים והחודשיים של פייסבוק בארה"ב ובקנדה ירד מעט בהשוואה לרבעון השני, אז הוא הגיע לרמה גבוהה בשל משבר הקורונה ● בחברה צופים אי ודאות משמעותית לגבי הפעילות ב-2021

גיל גירון ורמי נוסבאום, מנכ"ל ויו"ר אשטרום / צילום: ישראל הדרי, יח"צ

ההצעה המשופרת של אשטרום צלחה: תמחק את החברה הבת מהמסחר בת"א

קבוצת אשטרום תרכוש את מלוא מניות החברה הבת אשטרום נכסים בהצעת רכש חליפין במניות ● פחות מ-5% מבעלי מניות אשטרום נכסים התנגדו להצעה ● ההיענות הגבוהה תאפשר לה לבצע רכישה כפויה גם למניות שבעליהן לא נתנו את הסכמתם למהלך

איור: עובדיה בנישו

דורשים רק מזומן ובלי רגשות אשם: הכלכלה השחורה פורחת בחסות הסגר השני

בחסות התנהלות הממשלה וחוסר האמון הציבורי, פורחת הכלכלה השחורה ● הספר שמגיע לבית הלקוח בהיחבא, הקוסמטיקאית ש"לא מפחדת למות מקורונה, אלא מפחדת למות מרעב", מאמני הכושר, השפים ויתר העצמאים שמקבלים תשלום בשחור, בלי לחשוב פעמיים

שר האוצר ישראל כ"ץ / צילום: עדינה ולמן, דוברות הכנסת

קבינט הקורונה דחה את פתיחת חנויות הרחוב בשבוע

עם זאת, שבוע הבא ייפתחו הלימודים לכיתות א' עד ד', בתי כנסת בפעילות של עד עשרה אנשים, וכן צימרים ומכוני טיפול כגון מספרות ומכוני קוסמטיקה ● טרם הדיון, יצא שר האוצר ישראל כ"ץ במתקפה חריפה על שר הבריאות יולי אדלשטיין

מתניהו אנגלמן, מבקר המדינה / צילום: שמוליק גרוסמן, דוברות הכנסת

תלונה למבקר המדינה נגד אופן המינוי במועצת התאגיד

חברת המועצה לשעבר אורנה דויטש פנתה בתלונה למבקר המדינה על האופן שבו מונו חברי המועצה החדשה ● דויטש טוענת בין היתר שאופן מינוי הועדה התנהל באופן לא תקין במספר מובנים ● מינוי החברים למועצה מתעכב שוב ושוב כמה מספר רב של חודשים

ג'ק דורסי / צילום: Anushree Fadnavis, רויטרס

טוויטר עקפה את תחזית הרווח וההכנסות אך המניה מתרסקת במסחר המאוחר

ברבעון בו הגבילה החברה את ציוצי הנשיא טראמפ, והצהירה על כוונתה לקדם שיח בריא ברשת, טוויטר רשמה עלייה נמוכה מהצפוי במספר המשתמשים ● הזהירה מפני חוסר וודאות לקראת הבחירות בארה"ב בכל הנודע להתנהגות המפרסמים

תומכי ג'ו ביידן במיאמי, פלורידה / צילום: MARCO BELLO, רויטרס

פלורידה לא למדה לקח: טל שניידר בדרך למדינה ש"מכתירה" את נשיאי ארה"ב

פלורידה היא מדינה חצויה שמשקפת כנראה יותר מכל את אמריקה המפולגת ● ההיסטוריה מלמדת שפלורידה כמעט תמיד בוחרת במנצח ונוטה להחליף צד כל כמה שנים ● כך היה עם רייגן והבושים, וקלינטון ואובמה וטראמפ ● האם גם הפעם היא תנבא את התוצאות

כמו לכל דבר, גם לעבודה מהבית יתרונות וחסרונות / צילום: Shutterstock/א.ס.א.פ קרייטיב

ביחד אבל בנפרד: עתיד העבודה במשרד הווירטואלי

מודל העבודה ההיברידי יחייב ארגונים לשנות את האופן שבו הם מגדירים משרד ולהתמודד עם השאלה איך יוצרים מרחב וירטואלי שמאפשר עבודה משותפת אמיתית

דרור פויר / צילום: יונתן בלום, גלובס

עִזבו אותי לגסוס במסדרון, הצילו את נטלי דדון!

המרוץ לפיתוח החיסון הוא בקושי חימום ומתאבן למרוץ האמיתי - המרוץ לחיסון עצמו ● ואם אתם לא חושבים שהמקורבים יזכו לחיסון ראשונים, כנראה שהפרוטקציה שלכם כל-כך חזקה שאתם כבר לא שמים לב אליה

רוני שמאי / צילום: רוני שמאי

"כל שכונה יכולה לחפש את אותו מבוגר בודד שזקוק שמישהו יזעק בשבילו"

מעצב התאורה רוני שמאי נחשף למצוקת הקשישים העריריים עוד לפני הקורונה, לאחר ששכן ביקש ממנו עזרה טכנית ● הוא פתח עם שותפים קבוצת פייסבוק ייעודית שמארגנת סיוע לאותם אנשים ● מדור חדש מציג אנשים ועסקים שעושים טוב באמצע המהומה

נטפליקס. עלייה מסיבית בצריכת שירותי טלוויזיה בארה"ב / צילום: Antoine Kreme, רויטרס

נטפליקס רוכבת על הקורונה ומעלה את מחירי החבילות בארה"ב

לעת עתה הדיווח מתייחס בארה"ב ולא לשאר העולם אך אין לדעת ● הסיבה היא הגידול בתחרות מצד שחקניות חדשות שמוזילות את מחירי החבילות

פינוי פצועים מהריסות בניין בטורקיה / צילום: Tuncay Dersinlioglu, רויטרס

לפחות ארבעה הרוגים ועשרות פצועים ברעידת אדמה במערב טורקיה

באיי סאמוס ביוון ובאזור איזמיר שמבערב טורקיה הורגשה רעידת אדמה חזקה שגרמה לקריסת בניינים ולהצפות ● אמבולנסים וצוותי הצלה פינו עד כה יותר ממאה ועשרים פצועים וארבע גופות של נפגעי הרעש ● באיזמיר קרסו עשרות בניינים ולפי התקשורת המקומית לפחות 25 צוות הצלה וחילוץ מנסים לאתר ניצולים בין ההריסות

הכנס השנתי על שם פרופ' ירון אזרחי - "מדמיינים מחדש דמוקרטיה" - מטעם המכון הישראלי לדמוקרטיה / צילום: צילום מסך

"מהי עיתונות, מיהו עיתונאי, מיהו מו"ל, ומי שם ילד בן 18 או 20 בגל"צ להכריע מי הטוב ומי הרע"

בפאנל של המכון הישראלי לדמוקרטיה אמרה אלונה בר און מו"ל גלובס כי "הבעיה העיקרית של העיתונות כיום היא היעדר אתוס, תרבות ומקצוענות" ● גיא רולניק סגן מו"ל הארץ אמר כי לשיטתו תיקי 2,000 ו-4,000 היו אמורים להוביל לחשבון נפש בעיתונות וכי בכל מקרה הקשיים הכלכליים לא הם אלו שדרדרו את האתיקה ● גולן יוכפז מנכ"ל חדשות 13 לשעבר טען שהעיתונות נפלה לכרוניקה בסיקור הקורונה ועו"ד נגה רובינשטיין דיברה על העיכוב שבו נמצאת הרגולציה הישראלית ביחס לטיפול בגוגל ובפייסבוק ● את הפאנל הנחתה ד"ר תהילה שוורץ אלטשולר

אפי נוה  / צילום: שלומי יוסף

פרשת אפי נוה: מרוב עצים לא רואים את סימון המטרה

לא זכורה לי דוגמה כה קיצונית כמו פרשת אפי נוה, שבה המערכת נרתמה לדרוס מכל זווית אפשרית אדם שסומן על ידה ● אם הפרקליטות מסוגלת להודות בטעויות, זו ההזדמנות בה' הידיעה

דונלד טראמפ זורק את כובעו לתומכיו באחד הקמפיינים שלו בפנסילבניה / איור: Alex Brandon, Associated Press

מהמו"מ עם צפון קוריאה ועד לחיסול אל-בגדאדי: הקדנציה של טראמפ בתמונות

מנאום ההשבעה הלוחמני, דרך צעדות המחאה של מיליוני נשים נגדו, הדחת ראש האף.בי.איי, מפגש הפסגה עם הרודן קים ג'ונג און, הקמת חומה במקסיקו, חיסול מנהיג דאע"ש ש"מת כמו פחדן", ועד מותו של ג'ורג' פלויד ● אלו האירועים שנזכור במיוחד מארבע שנים סוערות של טראמפ בית הלבן

גונן אוסישקין  / צילום: סיון פרג'

מנכ"ל אל על יעזוב את תפקידו על רקע חילופי השליטה בחברה

כפי שפורסם ב"גלובס", הדירקטוריון החדש כבר החל בהקמה של ועדת איתור לחיפוש אחר מנכ״ל חדש יחד עם רוב השדרה הניהולית שצפויה להתחלף ● גונן אוסישקין צפוי לעזוב את התפקיד בינואר 2021

מבצעים ברשתות אופנה ומזון / צילום: שני מוזס, גלובס

העליון שם סוף לשיטת המבצעים הפופולרית: הפסיקה שמסעירה את ענף המזון והאופנה

ביהמ"ש העליון אשרר את החלטת המחוזי בת"א לפיה גם במקרה של מבצעים קצרי מועד יש לציין על המוצר או על שלט את המחיר הסופי לאחר ההנחה, ולא ניתן יותר להסתפק רק בהצגת אחוז ההנחה ● עו"ד סיטון-זלקינד המייצגת קמעונאיות בתחום האופנה והמזון: "נטל כבד ביותר על הקמעונאים שעלול להביא להימנעות ממבצעים קצרי טווח"

סונדאר פיצ'אי מעיד בועדת השיפוט של הקונגרס האמריקאי בנושא שימוש בנתוני משתמשים בגוגל / צילום: Jim Young, רויטרס

גוגל ריסקה את התחזיות לרבעון: מציגה צמיחה של 14% - הרבה מעל לצפי

הרווח הנקי למניה עמד על 16.4 דולר – יותר מחמישה דולרים מעל התחזיות ● הרווח הנקי הסתכם ב-11.3 מיליארד דולר - זינוק של 61% לעומת הרבעון המקביל אשתקד

מדף בקבוקי פלסטיק של קוקה קולה / צילום: תמר מצפי

"מבצע חסר תקדים": כך נראית המלחמה של קוקה קולה ישראל ביבוא המקביל

האם גל היבוא המקביל דוחף את קוקה קולה למבצעים אגרסיביים? ● החל מה-3 בנובמבר, על כל קניית שישיית בקבוקי קוקה קולה או זירו, הצרכן יקבל מארז של 4 פחיות מתנה ● החברה המרכזית: "חלק מתוכנית המבצעים השנתית"

בורסת וול סטריט / צילום: Associated Press

וול סטריט סגרה את אוקטובר באדום: הנאסד"ק התרסק ומניות ענקיות הטק נפלו

בורסות אירופה ננעלו במגמה מעורבת, הדאקס והפוטסי ירדו בעוד הקאק עלה ● מדד VIX ("מדד הפחד") טיפס ● חמישה ימים נותרו עד לבחירות בארה"ב ● כל מניות הטק נפלו מלבד אלפאבית ● בורסות אסיה ננעלו בירידות חדות