IBM / צילום: תמר מצפי
מסמכים פנימיים של IBM מעלים כי רופאים שמשתמשים במחשב-העל ווטסון שפיתחה החברה גילו "מספר רב של מקרים שבהם הוצעו המלצות טיפול לא בטוחות ושגויות" כשהשתמשו במערכת - כך מדווח האתר סטאט ניוז (Stat News).
סטאט בחן מסמכים שנכללו בשתי מצגות שערך ביוני וביולי 2017 סמנכ"ל הבריאות לשעבר של החברה, אנדרו נורדן. על-פי הדיווח, שותפו מסמכים אלה עם הנהלת IBM Watson Health.
לדברי סטאט, כללו מסמכים אלה ביקורת חריפה על מערכת Watson for Oncology, ונאמר בהם כי ההצעות "השגויות לעתים קרובות" שסיפק המוצר מעוררות "תהיות חמורות לגבי תהליך בניית התוכן והטכנולוגיה בבסיסו של תהליך זה".
אחת הדוגמאות במסמכים היא המקרה של גבר בן 65 אובחן כלוקה בסרטן הריאות, ושסבל מדימום חמור. ווטסון הציע לטפל בו סימולטנית בכימותרפיה ובתרופה בשם Bevacizumab, אך תרופה זו עלולה לגרום ל"דימום חמור או קטלני", על-פי האזהרה בדף התרופה, ולפיכך אין לתת אותה לאנשים שסובלים מדימום חמור, כפי שמציין סטאט. דובר המרכז לסרטן Memorial Sloan Kettering (MSK) Cancer Center אמר לסטאט שאנשי המרכז מעריכים כי המלצה זו לא ניתנה למטופל אמיתי, אלא במסגרת בדיקה של המערכת.
על-פי הדוח, נטען במסמכים כי האשמה מוטלת על ההכשרה שמספקים מהנדסי IBM, ועל הרופאים ב-MSK שכוננו ב-2012 שיתוף-פעולה עם IBM כדי ללמד את ווטסון "לחשוב" יותר כמו רופא. במסמכים נאמר שבמקום להזין למערכת נתונים של מטופלים אמיתיים, הזינו הרופאים ככל הנראה לווטסון נתונים על מטופלים היפותטיים, או נתוני מקרה "סינתטיים". פירושו של דבר הוא שייתכן שכאשר השתמשו בתי חולים אחרים במערכת ווטסון לטיפול אונקולוגי על בסיס ההכשרה שעברה מערכת זו ב-MSK, קיבלו הרופאים המלצות על בסיס העדפות הטיפול של רופאי MSK, במקום פיענוח מבוסס בינה מלאכותית של נתוני מטופל אמיתיים.
מבחינתם של חלק מהרופאים, התוצאות אינן משביעות-רצון. "המוצר הזה הוא חתיכת..." אמר ל-IBM רופא בבית החולים ג'ופיטר בפלורידה, על-פי המסמכים שהגיעו לידי סטאט. "קנינו אותו לשיווק, והתקווה שניתן יהיה להגשים את החזון. אנחנו לא יכולים להשתמש בו במרבית המקרים". רופא זה נמנה עם רופאים רבים שתלונותיהם נכללו במסמכים הפנימיים.
תוך כמה ימים מהמועד שבו ערך נורדן את אחת המצגות, שוחח Gizmodo עם אונקולוג בבית החולים ג'ופיטר לצורך כתבה על השימוש הנלהב יתר על המידה בווטסון, ועל חסרונותיו של ווטסון. במהלך הראיון, שאותו ארגנה IBM Watson Health, אמר [האונקולוג] שאה כי ווטסון משמש לפעמים לצורך חוות-דעת נוספת, כשרופאי ג'ופיטר אינם מסכימים על טיפול. שאה לא הביע תמיכה נחרצת, וגם לא ביקורת חריפה מהסוג שהשמיע הרופא עלום השם מג'ופיטר, שהביע ככל הנראה בכנות את דעותיו בפני מנהלי IBM, כפי שנראה במסמכים הפנימיים.
בתגובה לכתבה בסטאט, אמר דובר מטעם IBM שמערכת ווטסון לטיפול אונקולוגי הוכשרה לסייע לאונקולוגים לטפל ב-13 סוגי סרטן, נמצאת בשימוש ב-230 בתי חולים ברחבי העולם, ו"תומכת בטיפול ביותר מ-84 אלף מטופלים".
"עם זאת, למדנו ושיפרנו את Watson Health על בסיס פידבק מתמשך מלקוחותינו, וכן על בסיס ממצאים מדעיים חדשים וסוגים חדשים של סרטן וחלופות טיפול", אמר הדובר. "המאמץ הזה כולל 11 עדכוני תוכנה ב-12 החודשים האחרונים והנחיות חדשות לגבי סוגי סרטן שונים, החל מסרטן המעי הגס וכלה בסרטן הכבד".
נורדן אמר לסטאר כי אין ביכולתו להגיב מכיוון שכבר אינו עובד ב-IBM. הוא עזב את החברה כמה שבועות לאחר המצגות אשתקד, ועבר ל-Cota, חברת ניתוח מידע לצורך שירותי בריאות שנמנית עם שותפותיה של IBM.