המיליארדר ביל אקמן / צילום: ap, Richard Drew
בחמאס קרוב לוודאי לא דמיינו את הדרמה שתתרחש באקדמיה האמריקאית בעקבות הטבח בישראל. גורמים יהודים וגורמים שמרנים ביקשו להדיח את נשיאת אוניברסיטת הרווארד, פרופ' קלודין גיי, משום הטיפול הכושל שלה בגילויי אנטישמיות בקמפוס, והשתמשו בכלי מחשוב חזקים כדי לחפש פגמים במחקריה. כעת, כפי שאומר המיליארדר היהודי ביל אקמן, גם ב־MIT "אף אחד לא יישן בלילה".
● 2024 מתחילה בפיטורים בהייטק הישראלי. האם אנו לקראת גל משמעותי חדש?
● האוצר מציע להשקיע 1.2 מיליארד שקל בהייטק, אבל לא מסביר מאיפה התקציב
גורמים שביקשו לתמוך בגיי או לתקוף את אקמן הריצו במכונה גם את המחקרים של בת זוגו, פרופ' נרי אוקסמן, שהייתה עד לפני שנים ספורות מהחוקרות הבולטות ב-MIT. כפי שפורסם ב-Business Insider, נמצאו כמה מקרים שבהם הפרה אוקסמן את כללי הציטוט. אוקסמן נאלצה להתנצל בציוץ ארוך בטוויטר (שבו גם הודיעה על הסטארט-אפ שהשיקה לאחרונה).
אקמן עצמו הבטיח לבדוק את עבודותיהם של כל חברי הסגל במוסד היוקרתי. לדבריו, הוא יצא לחפש אנטישמים ומצא את… כולם. "אני בטוח שאחרי שהודענו שאנחנו מחפשים את כל סגל MIT, נשמעו השתנקויות בכל רחבי הקמפוס", כתב. "שום עבודה כתובה באקדמיה לא יכולה לעמוד בכוחה של הבינה המלאכותית המחפשת אחר גרשיים חסרים, ניסוחים דומים מדי או קרדיט שלא ניתן כהלכה. אבל לא רק ב־MIT לא יישנו. כי מדוע שנעצור בהם?".
"זה יהיה ה־Me Too של האקדמיה", אומרת שלומית ווגמן־רטנר, ד"ר למשפטים מאוניברסיטת ייל, סמנכ"לית בסטארט-אפ הפינטק Rapyd, ולאחרונה גם חוקרת אורחת בהרווארד. "יהיו חשיפות מביכות ופרישות 'על רקע אישי' מפחד שמבוכות ייחשפו. הכלי הזה ישמש לסיכולים ממוקדים באקדמיה, עד שיתגבשו כללים חדשים וברורים, מה נחשב פלגיאט ומה לא".
לא כולם מתרגשים באותה מידה. "גם אני הייתי חוקר ב־MIT. האם זה אומר שאם אקמן יחפש אצלי הוא ימצא משהו כמו הדברים שעלו אצל קלודין גיי ונרי אוקסמן? מי יודע. האם אני מתרגש מזה? ממש לא. אלה לא באמת פלגיאטים וכל העניין נופח מעבר לכל פרופורציה", אומר פרופ' מאיר פדר, ראש המרכז לבינה מלאכותית ומדעי הנתונים באוניברסיטת תל אביב.
האם כלי חישוב עוצמתיים בידיים של אקטיביסטים פוליטיים עם כסף כמו אקמן אכן עומדים לגלות שפלגיאטים רווחים בכל האקדמיה, ואם כן, האם זו תהיה רעידת האדמה שאקמן חוזה?
הטכנולוגיה נגד מרצים עם קביעות
בציוץ ארוך מאוד שהעלה אקמן בתחילת השבוע, הוא התווה את החזון: "מי שלא יחשוף את הפלגיאטים אצלו ייחשף על ידי אחרים. בעצם, אפשר להקים סטארט־אפ שיעשה את זה. אשמח להשקיע בו".
אקמן מזהה את ההזדמנות העסקית. כפי שכתב, לא לכל האוניברסיטאות יהיו המשאבים לבצע בדיקות כאלה של עבודות, וממילא התורמים צפויים לדרוש שהבדיקה תיעשה על ידי צד שלישי עצמאי.
לפי חזונו של אקמן, חיפוש שיטתי אחר פלגיאטים "עלול להוביל למבוכה רחבת היקף לאוניברסיטאות שלמות. תורמים וארגונים ממשלתיים יבטלו את תמיכתם, תביעות משפטיות יוגשו, ואוניברסיטאות וחברי סגל יריבו על גבולות הפלגיאט".
וזה, לטענתו, דבר טוב, כי יש "בעיה" באקדמיה האמריקאית. הבעיה היא לאו דווקא פלגיאטים, אלא האופן שבו מערכת ההשכלה משפיעה על הערכים בארה"ב. אי-אפשר לשנות זאת, הוא אומר, משום שלפרופסורים יש קביעות, "אבל בזכות הבינה המלאכותית, יש אפשרות להיפטר גם ממרצים עם קביעות". האם זה אתי? "יכול להיות שצריך אמצעים טקטיים לנצח במלחמה הזאת".
כמובן, אם ההפרות יימצאו אצל כולם באותם היקפים פחות או יותר, ייתכן שלא יקרה דבר מהדברים הללו שאקמן מדמיין. האוניברסיטאות והתורמים יחליטו על טאטוא קולקטיבי של האירוע מתחת לשטיח ופתיחת דף חדש עם כללים חדשים.
טכנולוגיות חדשות, נורמות חדשות
"כלים ממוחשבים לאיתור העתקות כבר נמצאים בשימוש רחב באקדמיה", מבהיר פרופ' ערן טוך, ראש המחלקה להנדסת תעשייה באוניברסיטת תל אביב. "יש אוניברסיטאות שבוחנות בכלים הללו את העבודות של הסטודנטים, וכתבי עת שמעבירים דרכם את כל המאמרים המיועדים לפרסום לפני שהם מגיעים לשולחן העורך.
"אבל השימוש שנעשה בשבועות האחרונים בכלים האלה הציב רף שלא היה קיים בעבר. זו דוגמה לכך שטכנולוגיות חדשות יוצרות נורמות חדשות. ההפרות שביצעה גיי הן אולי מביכות לנשיאת אוניברסיטה, אבל לא היו מובילות לפיטוריו של איש סגל בשום מצב אחר, ובוודאות הפרות כאלה קיימות אצל אנשי סגל בכירים רבים אחרים".
ד"ר אורן צור, מהמחלקה להנדסת מערכות תוכנה ומידע באוניברסיטת בן גוריון, מנסה לשרטט את גבולות הפלגיאט. "שאלת מפתח היא אם יצרת רושם שרעיון משמעותי של מישהו אחר הוא שלך. ברעיון, אני מתכוון גם לניסוח יפה.
"למשל, אצלנו בתחום ה־AI ישנה אמירה מפורסמת, 'שפה עוסקת לא במילים ובמשמעותן אלא באנשים ובכוונתם'. יש משהו מיוחד בניסוח הזה, המיוחס ל-Clark and Schober (1992). אם מישהו יכתוב זאת באופן דומה במאמר, באופן שניתן להניח ממנו שזהו ניסוח חדש וראשוני שלו, יהיה בזה טעם לפגם. גיי אולי עברה על כללים רשמיים, אבל לא התרשמתי שהיא ייחסה ניסוח או רעיון מיוחדים לעצמה באופן שקרי. אוקסמן ציטטה מוויקיפדיה את החוק השני של התרמודינמיקה. אף אחד לא טעה לחשוב שהיא המציאה את זה".
אם יימצאו הפרות כאלה אצל נשיאי אוניברסיטאות אחרות, הם ייאלצו להתפטר?
צור: "אם היית שואלת לפני שבועיים, הייתי אומר 'ברור שלא'. אבל עכשיו גיי היא תקדים. ייתכן שיהיה לחץ ציבורי להציב לכולם אותם סטנדרטים, שבעיניי הם מוטעים".
טוך מוסיף שלדעתו חומרת ההפרה תלויה בשאלה היכן במאמר נמצא הציטוט חסר הייחוס. "בפרק סקירת הספרות, ברור שאנחנו סוקרים את מה שכבר קיים, ולא מה שחידשנו. לעומת זאת, אם לקחת את פרק התוצאות של המאמר והעתקת אותו, את מציגה את החידוש במאמר כשלך, וזה פלגיאט ברור".
זה קורה?
"בהחלט. העולם האקדמי מלא בכתבי עת מאוד מפוקפקים, ובחוקרים שמופעל עליהם המון לחץ לפרסם, ואין להם המשאבים לכך. נוצרת תעשייה של זבל מועתק, לצד סתם זבל".
ווגמן־רטנר טוענת שכרגע הרף גבוה מדי. "בסוף בני אדם הם ספוגים של רעיונות ואוספים אותם לאורך כל הדרך בלי יכולת תמיד לשייך קרדיט לכל שביב של רעיון. שני אנשים יכולים לחשוב על אותו רעיון בניסוחים דומים, באופן בלתי תלוי בו זמנית. ואם שמעת רעיון בארוחת שישי, מי יודע אם מי שאמר לך את זה לא קרא אותו באיזה מאמר, ואולי בעצמו אפילו שכח מזה. צריך לחשוב מחדש מהי גניבה ספרותית, וישנה גם שאלת ההיקף".
אקמן עצמו הבדיל בציוץ שלו בין הפרות הנובעות מעצלנות (שזו, מבחינתו, יכולה להיות עילה לפיטורים), טעויות אנוש (שהן נסלחות) והפרות שנועדו להטעות במכוון, שזו כבר ממש גניבה ועילה לתביעה, הוא כותב.
לגבי ההפרות שנמצאו אצל גיי, הוא כתב: "לא חיפשתי את פיטוריה על רקע פלגיאט, אלא על רקע עדותה בקונגרס, אולם כאשר הוחלט אחרי עזיבתה שהיא תישאר בהרווארד, לא הבנתי איך האוניברסיטה מקבלת החלטה כזו על רקע כמות, סוג והיקף ההפרות שעלו סביב עבודותיה". לגבי אשתו, אוקסמן, כתב: "היא עושה טעויות אנוש כמו כולנו".
הגנב האולטימטיבי שמתריע על אחרים
כמה מהחוקרים שדיברנו איתם חוששים שהקמפיין האישי נגד גיי יחזור אלינו כבומרנג, ולא רק בגלל השימוש בבינה מלאכותית. "אני חושב שזה עושה לנו נזק", אומר טוך, "אני לא חושב שישראלים או יהודים צריכים להציג את עצמם כמתנגדי גיוון, שוויון והכללה (DEI), עקרונות שהם מאוד מיינסטרים במרכז האמריקאי היום".
ווגנר-רטנר מוסיפה: "אני יודעת שגיי ישבה עם צוות של גורמים משפיעים יהודים מתוך או מסביבת האוניברסיטה כדי לכתוב תוכנית למניעת אנטישמיות ולהתמודד עם האירועים. אמנם באיחור, אבל זה קרה. ועם כל התמיכה שלי באקמן, יש חשש שכל מיני גופים בארץ ובעולם שלא אוהבים אקדמיה ישתמשו בסערה שהוא חולל כדי להחליש אותה".
מה שברור לכולם הוא שכלי AI החדשים הם טורפי קלפים בעולם הכתיבה האקדמית, ולאו דווקא בחיפוש פלגיאטים. בכלל, צור טוען שכדי לחפש גניבות ספרותיות לא צריך AI. "ישנם כלים פשוטים יותר להשוואה של טקסטים", הוא אומר. "זו משימה שמישהו עם המשאבים של אקמן יכול לבצע בתוך כמה ימים או שבועות.
"ישנם אפילו כלים מסחריים שכבר נמצאים בשימוש בכתבי העת הגדולים כדי לזהות העתקות כאלה. פעם קיבלתי בעצמי התראה כזו, על דמיון למאמר אחר, אבל התברר שהדמיון היה למאמר אחר שגם הוא שלי, וזה צפוי כמובן".
אקמן עצמו מציין בציוץ שלו סוגיה מעניינת. אותם כלי בינה מלאכותית בעצמם מבוססים על עבודה של אחרים, והם אינם נותנים קרדיט. "AI הוא הפלגיאטור האולטימטיבי", מסכימה גם ווגמן־רטנר.
אפשר להשתמש בבינה מלאכותית כדי להסתיר העתקה? נניח שלקחתי את כל סקירת הספרות ממאמר וביקשתי מ־ChatGPT לנסח לי אותו מחדש. זה לא ייחשב העתקה?
פדר: "זו באמת לא העתקה. זה לא אותו טקסט".
טוך: "גם הצ'ט מוגבל, ואם יותר מדי אנשים יעשו זאת, ייצאו בסוף טקסטים שיש ביניהם חפיפה. מלכתחילה הטקסט יהיה מנוסח בצורה סטנדרטית ולא מעניינת, וזה משהו שכבר מתחילים לראות בעולם האקדמי. אני מעדיף עולם שבו סולחים על החסרת מרכאות מאשר עולם שבו כל הטקסטים נראים אותו דבר".
באמת יש חשש שהאיום שיום אחד יסקרו את כל עבודותיך כדי לחפש בהם פגמים קטנים יהפוך את העבודה של החוקרים הצעירים, שממילא מלחיצה בגלל ביקורת העמיתים, לכמעט בלתי אפשרית ברמה הרגשית.
ווגמן־רטנר: "אני בהחלט חוששת מאפקט צינון. אולי חוקרים לא יכתבו רעיונות או ניסוחים שהם לא בטוחים במאה אחוז שנולדו במוח שלהם. חלק מחדוות היצירה ייעלם, עד שהגל הזה יעבור".
פדר: "אני ממש ממליץ לחוקר הצעיר להתעלם מכל הדבר הזה".
צור: "הכללים הם קשוחים כדי שלסטודנטים ולחוקרים צעירים יהיה מאוד ברור מה הם צריכים לעשות, ולא יהיה מקום לפרשנות. אבל אף אחד לא כיוון לקטנוניות הזאת".
האם אפשר להשתמש ב־AI גם כדי לאתר הפרות אתיות אחרות, כמו זיופי נתונים, "בישול' נתונים כך שייראו טוב יותר, עיבוד תמונות?
צור: "זה יכול להיות פרויקט מחקר מעניין. הגיוני שאפשר לאמן מודל שפה לעשות זאת, אם כי יהיה קשה להוכיח כוונה רעה מול טעות אנוש".
טוך: "המגמה באקדמיה, שלפיה יש לחשוף את הנתונים הגולמיים ואת שיטות העיבוד שבהן השתמשת כדי לאפשר שחזור מלא של המחקר, היא בעיניי התקדמות יותר משמעותית מהמסע של אקמן לכיוון אקדמיה אתית יותר".
בלגן ששווה הרבה כסף בעולם הפטנטים
כלי בינה מלאכותית יכולים היום לעשות הרבה יותר מבדיקת עבודות אקדמיות. הם יכולים גם לעזור בכתיבה עצמה של המחקרים או המאמרים שמתפרסמים. באופן אולי מפתיע, לא כולם באקדמיה נבהלים מהאפשרות הזאת.
מה עמדת האקדמיה היום לגבי כתיבה באמצעות בינה מלאכותית?
טוך: "אצלנו במחלקה זה מותר, אבל אנחנו דורשים מהסטודנטים לדעת מה כתוב בטקסט שהגישו, לדעת להגן עליו ולהיות ביקורתיים כלפיו".
פדר: "אני לא חושב שאפשר לכתוב היום מאמר אקדמי טוב מאוד באמצעות AI. אפשר לכתוב מאמר בינוני באמצעות AI, ומאמר טוב מאוד בסיוע AI".
צור: "אי אפשר להיתקע במקום ולא להתקדם עם העולם. אני אומר לסטודנטים, השתמשו במודלי שפה אבל תנו גילוי נאות, ולשם אני חושב שהתחום מתכנס. כשאנחנו מנהלים שיחה עם הצ'ט, נוצרים תוצרים מעניינים וזה תהליך לימודי מוצלח בעיני, לעומת מצב שבו ביקשת מהצ'ט לכתוב לך סיכום ספרות בלי בכלל לקרוא את הספרות, שזה כמובן לא לגיטימי".
אילו עולמות נוספים עשויים להיות מושפעים מההתפתחות הזאת?
וגמן־רטנר: "עולמות הפטנטים יושפעו בצורה דרמטית, ושם חלק מהגילויים יהיו שווים הרבה מאוד כסף. היום מי שעוברים על פטנטים הם בני אדם. לאחרונה היקף העבודה גדל כל כך, שנעשה ניסיון לעשות זאת באמצעות חוכמת ההמונים. כלומר, משרדי הפטנטים קראו לכל מי שמכיר עבודה קודמת בנושא מסוים להציף את קיומה בפני הבודקים. כעת בהחלט אפשר לעשות זאת באמצעות בינה מלאכותית, שתוכל להשוות לא רק ניסוחים, אלא גם רעיונות דומים, ואולי יתברר שצריך לשייך מחדש פטנטים חשובים מאוד. איזה בלגן!
"עולם נוסף שיושפע זה אתם, העיתונות. אקמן כבר אמר שיחפש העתקות בכל הכתבות של Business Insider, האתר שיצא נגד אשתו. בעיתונות מלכתחילה הכללים פחות ברורים וההעתקות רווחות יותר, ועלולים להתגלות דברים מעניינים.
"לדעתי גם הצעירים יתעוררו ויבינו מדוע הפרטיות חשובה. הייתי בעבר ראש הרשות להגנת הפרטיות בישראל, והייתי שומעת 'מה כבר יש לי להסתיר?'. ובכן, בעולם שבו אם עצבנת מישהו הוא יכול להפעיל AI על כל מה שאי פעם פרסמת, ברור יותר מדוע הפרטיות חשובה. אני מאמינה שהצעירים יעשו ריקליימינג של הפרטיות שלהם. הנה, משק כנפי הפרפר של התקפת חמאס ב־7.10 עושה מהפכות בכל עולמות הידע".