מערכת זיהוי פנים / צילום: Shutterstock
בעוד שבאיחוד האירופי פרסמו לאחרונה קווים מנחים לפיתוח ושימוש מוסריים במערכות בינה מלאכותית, תחקיר "הניו יורק טיימס" חשף כי רשויות בסין משתמשות בטכנולוגיית בינה מלאכותית של זיהוי פנים כדי לנטר את בני המיעוט האויגורי, מיעוט אתני מוסלמי ברובו. בעוד שסין ידועה לשמצה בשימוש הנרחב שלה בטכנולוגיות חדשות כדי לנטר את אזרחיה ולחזק את השליטה של הממשל בהם, מהתחקיר עולה כי בני המיעוטים סובלים מכך במיוחד. האויגורים הם מיעוט נרדף בסין, ולפי הערכות מחלקת המדינה האמריקאית, לפחות מאות אלפים מהם מוחזקים על ידי המדינה במחנות חינוך מחדש שמטרתם למחוק את זהותם האתנית והדתית.
לפי התחקיר, במספר מקומות בסין כבר משתמשים בזיהוי פנים כדי לאתר אויגורים ולעקוב אחריהם, ומעל 20 משטרות ב-16 פרובינציות ומחוזות בסין הביעו עניין בטכנולגיה. רוב האויגורים נראים שונה מרוב אוכלוסיית סין, ודומים יותר לאנשים ממרכז אסיה, מה שמקל על התוכנות לאתר אותם. מסמכים מהשנתיים האחרונות הראו דרישה גוברת לטכנולוגיה - כך, למשל, משטרה בפרובינציית גוויג'ואו הייתה מעוניינת ביכולת לזהות אויגורים בהסתמך על תמונות בתעודת הזהות, בדיוק של מעל 97%, ומסמך מפרובינציית חביי תיאר איך המשטרה רצתה לקבל התראה בכל פעם שמספר אויגורים הזמינו את אותה טיסה באותו יום. עוד דווח כי מאגר מידע לאומי בסין שומר את פניהם של כל האויגורים שעזבו את מחוז שינג'יאנג, שמוגדר כאוטונומיה אויגורית, וכי המשטרה בעיר סנמנשיה השתמשה בטכנולוגיה כדי לנסות לזהות אזרחים שונים יותר מחצי מיליון פעמים במשך חודש, כאשר בין היתר התוכנה ידעה לזהות אם מדובר באויגור.
התחקיר חושף כי מספר סטארט-אפים סינים מפתחים את היכולת לזהות אויגורים עבור הרשויות, בהם הסטארט-אפ הסיני CloudWalk שבאתר שלו נכתב כי "אם אויגורי אחד חי בשכונה ותוך 20 יום שישה אוניגורים מופיעים, התוכנה שולחת התראות מיד לרשויות החוק". חברות סיניות נוספות שהוזכרו בתחקיר ככאלה שמפתחות את היכולת עבור הרשויות הם Yitu, Megvii ו-SenseTime - סטארט-אפים שמוערכים במעל מיליארד דולר. חברה אחרת, Hikvision, שמוכרת מצלמות ותוכנת עיבוד תמונה הציעה פונקציה דומה אך הפסיקה להפעיל אותה ב-2018. מקורות הטיימס טוענים כי פרופיילינג אתני אינו סוד בתעשייה ההייטק הסינית, והוא פרקטיקה נרחבת.
לפי הדיווח, המערכות אינן מושלמות כרגע, והדיוק שלהן בזיהוי תלוי לעתים בגורמים כמו תאורה וזווית המצלמות. בנוסף, רבות מהמצלמות בסין לא עוצמתיות מספיק כדי שתוכנת זיהוי פנים תעבוד באופן יעיל. למרות זאת, עצם פיתוח היכולות על ידי הממשל הסיני מעורר דאגה, וסיבה נוספת לדאגה היא מכיון שהחברות שהוזכרו בתחקיר שואפות להתרחבות גלובלית, מה שעלול לאפשר לממשלות נוספות לבצע פרופיילינג כזה נגד אזרחיהן.
סנסטיים אמרה בתגובה ל"ניו יורק טיימס" כי היא בחנה את העניין עם הצוותים הרלוונטיים, ואלו לא היו מודעים לכך שבטכנולוגיה נעשה שימוש עבור פרופיילינג. מגווי מסרה כי היא מתמקדת ב"פתרונות מסחריים ולא פוליטיים" ובחברה הוסיפו כי הם "מודאגים לגבי הרווחה והבטיחות של אזרחים פרטיים, ולא עוסקים בניטור קבוצות". קלאוד ווק, וייטו לא הגיבו לבקשת "הניו יורק טיימס" לתגובה.