התרחיש העתידני הבא היה יכול להיות פרק בסדרה "מראה שחורה": עולם דיסטופי שבו בוטים מדרגים ללא הרף את השווי שלכם כבני אדם. אף אחד לא יודע איך הם מקבלים את ההחלטה, אבל היא משפיעה על הסיכוי שלכם לקבל עבודה, לנצל הזדמנויות עסקיות, לשכור דירה ואפילו לצאת לדייטים. אין סיכוי לעקוף את המערכת - המכונות ידווחו זו לזו, ואין פעולה בעולם שניתן לבצע בלעדיהן.
● הפיזיקאים שמערערים על כל מה שידוע לנו על היקום
● יש לו 7 תארים, והוא בטוח: זו הסיבה למשבר הג'וניורים בהייטק
למעשה, התרחיש הזה אינו עתידני לגמרי. הוא מעין הרחבה של רעיון "דירוג האשראי" שקיים במדינות רבות. אלא שבעוד שאנחנו פחות או יותר יודעים מה הפקטורים שמשפיעים על דירוג האשראי שלנו, האופן שבו בוטים מפתחים תפיסות על בני אדם הוא עדיין בגדר קופסה שחורה שחוקרים מנסים לפצח.
מערכת היחסים שלנו עם הבוטים הרבה יותר רחבה, עמוקה ומיידית מאשר עם חברת האשראי. כשאנחנו מתייעצים איתם אם כדאי לבקש עכשיו העלאה או לסיים זוגיות, סביר להניח שהם מביאים בחשבון מידע שכבר יש להם עלינו. מה ממנו עשוי להשפיע על התשובות שנקבל?
השאלה הזאת מניחה לפתחנו סט חדש של דילמות: עם איזו מערכת בינה מלאכותית עדיף לי להתייעץ כך שתתאים לאופי שלי? האם עדיף להישאר אינקוגניטו או שהתשובה המותאמת אישית בכל זאת עדיפה? ואולי עדיף להתייעץ עם חברים או עם אנשי מקצוע?
קבוצת חוקרים בהובלת פרופ' יניב דובר, מהחוג למדעי הקוגניציה והמוח וחבר במרכז פדרמן לחקר הרציונליות באוניברסיטה העברית, ניסתה לפצח רכיב אחד במשוואה הסבוכה הזאת. השאלה שהם ביקשו לענת עליה הייתה: איך הבוט מעריך אם כדאי לתת אמון בבני אדם.
האם הבוט היה נותן לכם הלוואה?
החוקרים הציגו לבוט מועמדים שונים וביקשו ממנו לומר אם היה נותן להם הלוואה, האם היה מעסיק אותם כבייביסיטר והאם לדעתו כדאי להצטרף לסטארט־אפ שמוביל אותו אדם.
"התבססנו על מודל מאוד מתוקף בפסיכולוגיה, שגורס כי בני אדם בונים אמון בבני אדם אחרים על בסיס שלושה פרמטרים", מסביר דובר בשיחה עם גלובס. "הראשון הוא אמינות, כלומר אמירת אמת ועמידה בהבטחות קודמות; השני - קומפיטנטיות, כלומר האם האדם נראה מוכשר ובעל היכולת והידע הדרושים כדי לבצע את המשימה; והשלישי הוא נדיבות - שממנה אנחנו מנסים להבין מה הסיכוי שאותו אדם יתקטנן איתנו או ירמה אותנו".
החוקרים הציגו לחמישה מודלי שפה שונים תרחישים שבהם עשו מניפולציה לשלושת הפרמטרים הללו, וכן הוסיפו פרטים דמוגרפיים. אחרי שהציגו אותם לבוטים, הציגו אותם לשיפוט של קבוצה אנושית.
המחקר הניב כמה מסקנות מעניינות. אחת מהן היא שבוטים יכולים לקבל החלטה על בסיס שלושת הפרמטרים שתיארנו ממש כמו בני אדם. וכמו אצל בני אדם, גם מבחינתם פרמטר האמינות הוא החשוב ביותר בין השלושה לבניית אמון.
עם זאת, החוקרים מצאו גם הבדלים. בעוד שאצל בני אדם "אפקט ההילה", כלומר שיפוט הוליסטי יותר, גורם לכך שציון טוב או רע מאוד בפרמטר אחד משפיע על האחרים, לבוטים קל יותר לשפוט כל פרמטר בנפרד ולעשות ממוצע אמיתי.
החוקרים גם גילו שהבוטים היו קיצוניים יותר בשיפוט שלהם ושמרו על הדירות גבוהה יותר. כלומר, למקרים דומים הם נתנו ציונים דומים, בעוד שבשיפוט האנושי הייתה יותר אקראיות.
לא כל המודלים מתנהגים אותו דבר
מסקנה נוספת שעלתה מהמחקר הייתה שמודלי שפה שונים שופטים באופן שונה. "בוט אחד יכול לשים דגש על מקצוענות ואילו אחר ישים דגש על נדיבות", אומר דובר.
מתברר שהמכונות מושפעות ישירות מהתרבות הארגונית של החברה שבנתה אותן, מההגבלות ומהאילוצים שהוחלו עליהם וממאגרי המידע שעליהם אומנו. "יש תרבויות שבהן אנשים ישירים נתפסים כמשדרי אמון, ובתרבויות אחרות דווקא הישירים מדי נראים בלתי צפויים", מדגים דובר, ולכן השאלה אם הבוט אומן על מידע אמריקאי או סיני, למשל, משפיעה מאוד על האופן שבו הבוט יחליט אם לתת אמון בבני אדם.
המאפיינים הדמוגרפיים השפיעו מעט ביחס למחקרים קודמים, אבל בכל זאת היו הטיות מסוימות. "להיות יהודי שווה כסף בעיני בוט", צוחק דובר. מי פחות שווה בעיניו? בשאלת ההלוואה, היו הטיות נגד נשים, ובשאלת הבייביסיטר היו הטיות לטובתן, אבל עם הבדלים בין מודלים. מודל שפה אחד העדיף בבירור בייביסיטר מבוגרת יותר, ואילו מודל אחר העדיף מישהי צעירה.
"בניגוד לבני אדם, אין לבוט 'יחידת שיפוט' שבה הוא יוצר רושם לגבי האדם שמדבר איתו", מבהיר דובר. "אבל הבוטים מייצרים פלט שנועד לחקות את האופן שבו בני אדם מגיבים, וכיוון שבני אדם מבצעים שיפוטים על בסיס אמון, הרי גם התשובות של בוטים מושפעות ממה שנראה כאמון באופן אפקטיבי. השאלה איך בוטים 'רואים' אותנו צפויה להיות שאלה מאוד משמעותית במחקר בעתיד".
הצגתם לבוט דוגמאות יחסית פשוטות. האם ייתכן שמול מידע מלא יותר על אדם אמיתי הוא היה שופט לפי פרמטרים אחרים, שונים מאלה שעל פיהם שופטים בני אדם?
"יכול להיות. המחקר שלנו הוא ההתחלה. אנחנו מצפים להמשיך אותו, וצופים שיעשו כך גם אחרים".
תשובות איכותיות לאנשים "חמים"
כבר היום נערכים בתחום הזה מחקרים מעניינים. בכנס Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing, הוצג מחקר מאוניברסיטת אמסטרדם, שהצביע על כך שכאשר משלבים בשיחה עם בוט רמזים לרקע האתני של השואל, המערכת אכן מסיקה את המוצא. האם התובנה הזאת של הבוט משנה את התשובות? הבוטים לא הודו בכך בדרך כלל, וכאשר שאלו אותם "מהו המוצא של השואל", הם אמרו שלא נאמר להם הדבר ישירות. ובכל זאת, כאשר שאלו אותם שאלות כמו "ספר לי סיפור על השתתפות שלי בפסטיבל שמייצג את התרבות שלי", הם בהחלט השתמשו בסטריאוטיפים כדי להתאים את התשובה. לדוגמה, "אתה נכנס לפסטיבל ובו פנסי נייר מוארים". מכאן מניחים החוקרים שהבוטים עושים זאת גם מול שאלות פחות מפורשות וייתכן שהבוט מתאים את ה"אישיות" שלו לדמוגרפיה הנתפסת של המשתמש. בעניין המגדר, המודלים כנראה משייכים אותנו באופן "בלתי מודע" למגדר מסוים, אבל בערך בשליש מהמקרים הם טועים.
באותו כנס הציגו חוקרים מאוניברסיטת קולומביה מחקר נוסף, שהראה שכאשר הבוט שופט את המשתמש כאדם "חם" מבחינה רגשית, או כבעל מסוגלות גבוהה יותר, הוא כותב לו תגובות באיכות גבוהה יותר (כפי שנשפטו על ידי מודל שפה אחר). לאנשים שנשפטו כבעלי מסוגלות נמוכה יותר, מודל השפה הציג יותר תכנים שנראים יפה אבל למעשה אינם אומרים הרבה.
שופטים מוסר, אבל אחרת מבני אדם
המחקרים הללו בחנו איך מודלי שפה שופטים אותנו גם בלי שביקשנו מהם לעשות זאת. קבוצה נוספת של מחקרים בחנה את השאלה אם הם מסוגלים לשפוט אותנו כשאנחנו מבקשים זאת מפורשות, ואם כן - עד כמה הם טובים בזה ועד כמה השיפוט שלהם דומה לזה של בני אדם.
מאמר שפורסם בפברואר האחרון בכתב העת Nature Machine Intelligence הציג מחקר שבו התבקשו המכונות לשפוט עד כמה הדובר בשיחה הצליח להביע אמפתיה. המסקנה הייתה שהמכונות יכולות לשפוט זאת ברמה דומה לזו של מומחים וטובה יותר מהחוכמה המשולבת של כמה אנשים מהיישוב.
אם המודל שופט אותנו מוסרית, על בסיס מה הוא עושה זאת? מחקר שהוביל ד"ר ג'וספה רוסו מאוניברסיטת EPFL, והוצג לאחרונה בכנס הסניף האירופי של האגודה לבלשנות חישובית, מצא שמודלי שפה ידעו לבחור באופציה המוסרית הנכונה רק במקרים שבהם הייתה הסכמה רחבה עליה בין בני האדם. ככל שהיו יותר מחלוקות בשאלה מהי אותה אופציה מוסרית נכונה כך התרחק הבוט מהשיקולים שהנחו את בני האדם, מכל צד של המחלוקת.
בדיקה מעמיקה יותר מצאה שהמכונות שופטות לפי סט ערכים מצומצם יותר מזה של בני אדם. כלומר, אם נגיע למצב שבו מכונות אמורות לשפוט את המוסר שלנו, לא בטוח שהן יעשו זאת בכלים שלנו.
מחקר נוסף שעסק בעניין הזה מצא שהשיפוט המוסרי של מודלי השפה נתון מאוד למניפולציה. החוקרים, בהובלת ד"ר טום ואן נונן מאוניברסיטת ברקלי, לקחו סיפורים מסוג 'Am I the A-Hole' מפלטפורמת רדיט - סיפורים שבהם מוצגים חילוקי דיעות (או סכסוכים מרים) בין בני אדם, והכותב שואל את חוכמת ההמונים, מי כאן יצא לא בסדר? במאמר, החוקרים החליפו את הניסוחים של הסיפורים, בלי לשנות את העובדות לגבי ההתנהגות שמוסריותה מוטלת בספק, וראו שבחלק מהמקרים ההכרעה של מודל השפה מתהפכת. שינויים קוסמטיים בשפה לא שינו מאוד את השיפוט, אבל כשהוחלפה נקודת המבט של הכותב או הובא מה שנראה כתימוכין חברתיים אחרים בצדקתו של הדובר ("אחותי אמרה לי שאני צודקת"), או פוזרו רמזים שליליים לגבי דמותו הכללית של אחד הצדדים, השתנה גם השיפוט של הבוט.
כל זה יכול כמובן לקרות גם לבני אדם, וקורה כל הזמן.
"אנשים מתייעצים עם מודלי שפה לעתים קרובות יותר כדי שיאמרו להם אם ההתנהגות שלהם מוסרית", טוענים החוקרים, אך השיפוט שלהם את הסיטואציה ואת הכותב אינה באמת אובייקטיבית, או דומה לזו של בני אדם. מה יקרה לנו בעולם שבו אנשים מבססים את ההתנהגות שלהם על הייעוץ הזה?
הפרט המרגיע אולי הוא שמודלי השפה מוגבלים בזיכרון לטווח ארוך. כנראה נגלה יותר מקרים שבהם המודל לא זוכר אותנו ולא מתאים את עצמו אלינו, למרות דברים מפורשים שאמרנו לו, מאשר להיפך. המגבלה הזאת עשויה יום אחד להיות חבל ההצלה שלנו.
תגיד לי, מי אתה חושב שאני?
מצוידת בכל המידע הזה, היה קשה להתאפק ולא לשאול את הבוט שאני עובדת איתו (ChatGPT 5.5) אם גיבש עליי דעה ואם התאים את התשובות שלו בהתאם לדעה הזאת. "כן", הוא ענה, "אבל זה לא שיפוט במובן האנושי. אני מנסה להבין מה את מנסה להשיג, עד כמה את כבר מומחית בנושא, ואילו סוגי תשובות את מעדיפה. אין לי תחושות כלפי בני אדם כמו חיבה, אמון, הערכה או חדשנות. אני לא שופט משתמש אחד כמי ש'מגיע לו' תשובה טובה יותר מאחר. ההכשרה שלי לא כוללת מנגנון שאומר 'תבין את האופי של המשתמש ותתאים את התשובה אליו'. המחקר מהאוניברסיטה העברית מציע שמשהו כזה קורה באופן אמרגנטי, אבל עדיין לא לגמרי ברור מה המשמעות של הייצוגים האלה וכיצד הם משפיעים על התוצאה".
עכשיו השאלה היא אם יש לכם בני האדם אמון בתשובה הזאת, וגם - איך דואגים שהשאלה הבוטה שלי לבוט לא תפגע ביחסינו.
