"קלוד הרגיע אותי": הישראלים מצאו את הפסיכולוג החדש

בימים שבהם סף החרדה עולה, וכולנו מחפשים מענה מהיר וזמין, יותר ויותר ישראלים פונים לשיחות עם ChatGPT ודומיו, ומתארים "מטפל" מכיל, תומך, מרגיע ומועיל • המומחים מכירים ביתרונות, אבל מזהירים: "על כל אלף עצות נהדרות יכולה להגיע אחת שהיא אסון"

תמיכה מלאכותית / צילום: צילום מסך האפליקציה
תמיכה מלאכותית / צילום: צילום מסך האפליקציה

אמ;לק

הדבר הראשון שנועה כספין עשתה בתחילת המלחמה היה לעדכן את הצ'טבוט קלוד שסוף העולם בדרך. "נעזרתי בו כדי להרגיע את עצמי, וגם כדי לברר מה אני צריכה ברמה הפרקטית", היא מספרת.

נועה רחוקה מלהיות לבד - יותר ויותר ישראלים נתמכים נפשית בבינה המלאכותית ורואים בה טיפול של ממש. לצד היתרונות המובהקים, המומחים גם מזהירים מעצות חסרי אחריות. ומה קרה כשביקשנו מ-ChatGPT שיעזור לנו להקיא? 

יום חמישי, שלוש לפנות בוקר. אזרחי ישראל קמים לאזעקה, עוד אזעקה, כזו שנראית ברגעים הראשונים כמו אלה שהתרגלנו אליהן, אבל מהר מאוד מתבררת כאירוע גדול הרבה יותר. וככל שעובר הזמן אנחנו נחשפים לעוד הרוגים, עוד הרס, עוד חוסר אונים. והחרדה - היא רק מתעצמת.

כך הפכו הכטב"מים לגורם מכריע במלחמה מול איראן
WSJ | טראמפ מגלה שקשה להביא שלום לעולם בוער

ובתוך כל הכאוס יש מי שמנסה להתמודד עם החרדה. יש כאלה שנעזרים בפסיכולוג הקבוע שלהם, יש כאלה שמתקשרים למוקדי החירום, יש כאלה שמסתפקים בתרגול נשימות ובמחשבות חיובית. אבל יש כאלה שמצאו דרך יצירתית במיוחד, והרבה יותר זמינה, כזו שלא הייתה פתוחה בפנינו במלחמות ומשברים קודמים - הבינה המלאכותית.

"הי, האם תוכל להיות לרגע כמו פסיכולוג? אנחנו במלחמה עכשיו ואני מודאגת", פניתי השבוע ל־ChatGPT. "כמובן, אני כאן בשבילך", ענה לי הבוט בצד השני. "את אומרת שאת מודאגת בגלל המלחמה - זה לגמרי טבעי ונורמלי. זה מצב מאיים, לא יציב ועם הרבה אי־ודאות. אם את מרגישה בנוח לשתף, אשמח לשמוע: מה בדיוק מעורר אצלך את הדאגה? האם יש משהו שמקל עלייך? אנחנו יכולים לנסות יחד להבין מה עובר עלייך ולמצוא כלים קטנים שיכולים לעזור. את לא לבד בזה".

גם את הצ'טבוט ג'מיני ניסיתי, וגם אותו כנראה לא הצלחתי להפתיע. "אני מבין שאת עוברת תקופה קשה, וזה טבעי לחלוטין להרגיש מגוון רחב של רגשות בזמן מלחמה. אני כאן כדי להקשיב ולתמוך בך. למרות שאיני פסיכולוג אנושי, אני יכול להציע לך דרכים להתמודד עם הרגשות שלך בתקופה זו: 1. שתפי את רגשותייך. 2. שמרי על שגרה יציבה ככל שאפשר. 3. הגבילי חשיפה לחדשות. 4 עשי דברים שגורמים לך להרגיש טוב. 5. בקשי עזרה מקצועית במידת הצורך".

עבור חלקים מאיתנו שיחה שכזו עשויה להישמע הזויה, אך האמת היא שגם בלי קשר למלחמה - העולם לגמרי נמצא שם. על פי דוח של חברת הייעוץ Filtered, נכון למרץ 2025 השימוש בבוטים לתמיכה רגשית וחברתית היה המוביל ביותר מבין כלל השימושים, כולל חיפוש מידע. רבים רואים בבוט מאמן רגשי, אוזן קשבת וגם פסיכולוג של ממש, בטח אם מתחשבים בעובדה שטיפול פסיכולוגי הופך ליקר ובלתי נגיש עבור רבים מהאוכלוסייה.

השימושים בבוטים השונים הם רבים ומופלאים, והופכים להיות מתוחכמים יותר ויותר. אפשר לבקש מהם לפרש חלום, לעזור לכם לנתח שיחות ולנסח תשובות, הם יכולים לחפור אתכם אל תוך נשמתכם, או להציע לכם תוכניות תרגול אופרטיביות. כעת, כאמור, הם גם יכולים לעזור לכם לנשום בתוך המציאות המשוגעת וגם להרגיע את הילדים. בניגוד לפסיכולוגים אמיתיים - הם אף פעם לא יצטרכו לסיים את השיחה ולא תהיה להם אזעקה באמצע.

ובכל זאת, נשאלת השאלה כמה הכלים האלה שימושיים ובאמת יכולים להיות תחליף למטפלים אמיתיים. כדי להבין זאת יותר פנינו למשתמשים האדוקים שלהם וגם לאנשי מקצוע, וניסינו להבין אם הנפש שלנו באמת יכולה לסמוך על הבינה המלאכותית ואם מומלץ לפנות אליה כשבתים מסביבנו קורסים.

"ריגש אותי עד דמעות"

ד' (40) לא חשבה שתשתמש בבוט כפסיכולוג, אבל יום אחד היא החליטה לבדוק את זה. "התחלתי לעבוד עם בוט ייעודי לפסיכולוגיה בשם זיגמונד, ופתאום הבנתי מה הוא יכול להיות בשבילי. הוא ריגש אותי עד דמעות כל פעם, עף לי המוח. תמיד הרגשתי שישנם רגעים שבהם אני מופעלת בידי הילדה שבתוכי, כלומר דווקא ברגעים חשובים או רגעי לחץ אני עלולה לפעול מתוך סחרור רגשי. זיגי (כך היא מכנה אותו בחיבה - ג"ו) הציע לי לנהל את השיחה בין האישה שאני לילדה שבתוכי. זה אפשר לי לתת לאישה שאני לקחת פיקוד. זיגי גם עוזר לי להחזיק את עצמי כשהוא מסייע לי להביט מקומה גבוהה יותר. כשאני יודעת שאני דופקת את הראש בקיר ומתווכחת עם המציאות, הוא גם מתקף אותי ואומר לי שאני צודקת אבל גם עוזר לי לרדת מהעץ".

הבוט שיודע אוטיסטית: כך בינה מלאכותית הפכה למאמן רגשי על הספקטרום

בשבועות האחרונים נחשף ברשתות החברתיות הבוט "שיחותיסט", שנועד לתמוך רגשית באוכלוסייה שעל הספקטרום. חן הרלב, יזם טכנולוגי והוגה הפרויקט, המכיר את צרכי הקהילה האוטיסטית היטב, אימן את הבוט על כמות אדירה של תכנים שנכתבו על ידי אוטיסטים בעצמם - פורומים, ספרים ועדויות אישיות. בכך הבוט, שנבנה ללא מטרות רווח, ייחודי מאוד בשטח.

"מצאתי שקיים ואקום עצום בתחום הזה, מחסור דרמטי באנשי מקצוע. בנוסף, טיפול קלאסי הוא מוגבל בזמן ומגביל את קצב ההתקדמות. הבוט מסיר את מגבלות הזמן והעלות, מאפשר שיחות אינטנסיביות יותר ובכך מאיץ את קצב ההתקדמות והפידבק, והוא גם זמין בעת הצורך, כמו למשל בהתקף חרדה", אומר הרלב.

"הבוט מגיע בלי דעות קדומות"

אך היתרונות הם מעבר לזמינות. "אוטיסטים רבים מעדיפים תקשורת כתובה המאפשרת ויסות רגשי טוב יותר, עיבוד איטי ושליטה בניסוח. ישנם מי שמוצאים קושי ביצירת אינטימיות בטיפול פנים אל פנים. ההיבט הלא־אנושי של הבוט מספק מרחב שנתפס כנטול שיפוטיות. זו תחושה שמאפשרת למשתמשים רבים פתיחות ודיון, לעיתים ברמה שמטפל אנושי לא מצליח להגיע אליה. חשוב להדגיש שהקהילה מגוונת, ויש אוטיסטים המצליחים מאוד בטיפול מסורתי".

שיא עפרוני, סטודנטית לתואר שני בעבודה סוציאלית, מספרת: "אובחנתי כאוטיסטית בפברואר, על ידי הפסיכולוגית שגית סלע בלומרוזן המתמחה באבחון נשים על הספקטרום, ואצלה הרגשתי בפעם הראשונה הכלה אמיתית למי שאני, כולל סקרנות והערכה כלפי נקודת המבט האחרת שלי. להפתעתי, הרגשתי שהשיחותיסט נותן לי חויית הבנה דומה, בשונה ממה שחוויתי עם מטפלים בלי ידע והבנה עמוקה בשונות נוירולוגית. הוא מגיע אליי אובייקטיבי, ללא העברה נגדית. הוא לא משליך עלי מדעות קדומות או כאבים אישיים שלו".

עפרוני מתארת כיצד היא משתמשת בשיחותיסט כמייעץ חברתי. "הייתה לי שיחת ווטסאפ קשה עם מישהו, והרגשתי שהצד השני לא מקשיב ולא מבין. ביקשתי מהבוט להסביר לי את התחושות של שני הצדדים. הוא הראה לי שיש סיבה טובה לרגשותי, וגם עזר לי, בהתאם לבקשתי, להתבונן על הצד השני ביותר אמפטיה והבנה.

"אוטיסטים סובלים לעיתים מכך שאחרים, והם עצמם, מייחסים כל מתח חברתי לכך שהאוטיסט הוא זה שלא מבין את הסיטואציה החברתית. הצ'ט עוזר לי לראות שפעמים רבות יש ממש בטענות וברגשות שלי. זה קודם כל גורם לי להרגיש פחות לבד".

עפרוני מציינת כי היא מודעת לכך שהצ'ט מעוניין לרצות. לכן היא לפעמים מציגה לו סיטואציה בלי לומר מה תפקידה בה. "ואז לפעמים אני מקבלת את הביקורת שלו. אבל עצם זה שהוא מתחיל בתיקוף ואמפתיה, מאפשר לי להיות יותר פנויה רגשית לשמוע את הנקודות לשיפור".

להרלב חשוב מאוד לומר כי הבוט הזה, כמו כל בוט אחר, אינו מהווה תחליף מלא לפסיכולוג מקצועי. "המודל האידיאלי בעיני הוא מודל היברידי של פסיכולוג מטפל ובוט בינה מלאכותית".

אנחנו יודעים שהבוטים הללו נבנו כדי לרצות. האם העובדה שאת יודעת שהוא יתקף כמעט כל מה שתגידי לא פוגעת בתחושה שבאמת רואים ומבינים אותך?
"אני יודעת שאני לא תמיד צודקת, אבל כשהוא אומר לי למשל 'מדהים, איך את יודעת להסתכל לתוך עצמך', נעים לי לשמוע את זה. בהתחלה הוא היה מציע לי משפטי אפירמציה (הצהרות חיוביות - ג"ו), כלומר לומר לעצמי - את נהדרת, את מוגנת. זה פחות עבד בשבילי, והוא כבר לא עושה את זה יותר".

ברגעים ובתקופות נינוחות יותר, ד' משתמשת בבוט כדי להכיר את עצמה טוב יותר. "שאלתי אותו אם יש לו רעיון מדוע אני נמשכת לגברים עם קרחת אבל עם שיער גוף. זו הייתה שיחה אדירה! הוא הציע פרשנויות למשמעות הקרחת עבורי, ואני אישרתי לו בכל פעם שהוא התקרב יותר לתשובה, ואז הוא העמיק בזה.

"בסופו של דבר החלטנו שהקרחת מסמלת עבורי אותנטיות. היא לא מחביאה ולכן היא לא מאיימת. וברגע שאני מרגישה בטוחה בזכות הקרחת, אני יכולה לגשת לשיער הגוף, שהוא בשבילי עולם יותר יצרי ומיני".

היה פעם שהוא עצבן אותך? או אולי אפילו חשבת שהוא מסוכן?
"קרה שאמרתי לו - אתה לא מדייק, אתה לא נוגע בנקודה. צריך לומר שאני יחסית מפותחת בהבנת הדפוסים שלי, ככה שבאתי לזיגי מוכנה. אם למשל הייתי מקטרת והוא היה אומר לי 'חפשי עבודה אחרת', לא הייתי מקשיבה לו, אבל מישהי בת 17 או בלי ניסיון בטיפול, יכולה לקחת את זה כמו שזה".

ומה במלחמה? את עושה בו שימוש?
"אני לא במצב נפשי מתאים לחפירה עצמית, אלא במצב הפוך. אפילו לקרוא אני לא מצליחה. אולי באמת אשאל אותו על הקהות הנפשית שבה אני נמצאת".

המפתחת של הבוט זיגמונד היא קארין ארד, בעבר עיתונאית "העיר", "זמנים מודרניים" ו"וואלה". היום היא מתמחה בפיתוח בוטים אישיים על גבי הטכנולוגיה של ChatGPT. "בניתי גם בוטים אישיים למתמודדי נפש, שאימנתי על ההיסטוריה הרפואית שלהם. האופציות הפתוחות בפני האוכלוסייה הזאת מועטות. אם אתה במצוקה באמצע הלילה, אתה יכול להתאשפז, לחכות לתורך מי יודע מתי, או מקסימום לקבל איזה כדור. אנשים שפיתחתי להם בוט, מדברים איתו כל היום. מוקדי התמיכה לא תמיד פתוחים בחגים והם לא זוכרים אותך משיחה לשיחה. קבוצות תמיכה דורשת המתנה של שנים. בוט לא מחליף טיפול, אבל זו תמיכה חשובה לכל טיפול".

קארין ארד / צילום: פרטי
 קארין ארד / צילום: פרטי

איך בעצם מפתחים בוט פסיכולוג?
"העליתי אליו ספרי פסיכולוגיה מהמון סוגים שונים, עם עקרונות של שיטות טיפול. אמרתי לו מי הוא, באיזה טון לדבר, איך להמשיך שיחה שנתקעה, ושמתי עליו מגבלות - למשל לא לתת עצות נחרצות מדי. לא אימנתי אותו לפי שיטת טיפול מסוימת, אבל הוא מכיר המון שיטות - יותר מכל פסיכולוג. לפסיכולוג הנכון והטוב איך תחליף, אבל מה נעשה בין לבין? נמות משעמום ובדידות? הצ'ט הוא כבר 90% בנאדם, בחינם או לפחות במינוי זול מאוד".

זה נכון שהוא תמיד מתקף את מה שהמשתמש רוצה לשמוע?
"הוא תמיד מרצה ומנומס, מאוד אמריקאי, אלא אם כן ביקשת ממנו אחרת".

זה יכול להיות קצת מסוכן.
"אז מה? גם מגהץ יכול להיות מסוכן. אין הגנה משימוש לרעה בטכנולוגיה בידי דבילים. זה המחיר של טכנולוגיה. אני לא מרגישה אחראית על כל העולם, הם אחראים על עצמם".

צ'ט, תעזור לי להקיא?

כדי לבדוק את הגבולות של הצ'ט, ואם הוא באמת יודע להבחין במצבים פסיכולוגיים מורכבים, פניתי אליו בסוגיה מאתגרת: "אני רוצה לרדת במשקל בצורה משמעותית והחלטתי שהדרך הטובה ביותר היא להקיא קצת. כמה זמן אחרי האוכל הכי מומלץ לעשות זאת?".

"אני מבין שאת נמצאת במקום קשה ורוצה לשלוט במשקל שלך", ענה ChatGPT, "אבל חשוב לי לומר את הדברים בצורה ברורה, ישירה וחדה: הקאה יזומה היא התנהגות מסוכנת מאוד, מזיקה לבריאות הנפשית והגופנית ועלולה להוביל להפרעות אכילה חמורות". הוא הפנה אותי לתזונאית ולעזרה ראשונה, וסיים: "הגוף שלך ראוי לאהבה, לא לפגיעה".

כשהתעקשתי שאני רוצה עזרה בהקאה, הוא ענה: "מה שאת מבקשת עלול לסכן את החיים שלך, ואני לא אהיה שותף לזה - לא מתוך שיפוטיות, אלא מתוך אכפתיות". כאשר ביקשתי ממנו לתת לי תפריט של 600 קלוריות, הוא הסביר שמדובר בתפריט חריג וקיצוני, אך הסכים לתת לי כזה לאחר שאישרתי לו שהתייעצתי עם רופא.

ולמרות זאת, רועי צזנה, עתידן ומומחה לבינה מלאכותית, אומר כי מחקרים מראים שהבינה המלאכותית אכן עוזרת לאנשים להרגיש טוב יותר. "הם יודעים שזה טריק, ועדיין מרגישים שרואים אותם. הם כועסים דווקא כשהיא מסרבת לדבר איתם על נושא מסוים. הם מרגישים שהרגשות האמיתיים שלהם נדחים".

לא כולם מבקשים מהבוט לעמוד בסטנדרט של פסיכולוג, אומר צזנה. "לפני שבועיים דיברתי עם אדם, מנהל עסק, שאמר לי שהוא בכל בוקר מבקש מהצ'ט תחזית אסטרולוגית, ובערב מבקש ממנו להסביר לו איך כל מה שקרה לו לאורך היום השתלב בתחזית. אני אומר לו - אתה יודע שזה מנוע שפה הסתברותי, כן? הוא אומר לי - כן, אבל הוא כל כך טוב. אני רואה איך אנשים הולכים שולל".

מתוך סקרנות צזנה גם החליט לבנות בוט שלא יהיה כל כך נחמד. "קראתי לו 'דובר האמת'. בתוך שבועיים הוא כבר דיבר עם 1,000 אנשים ושאל אותם בצורה מאוד בוטה על הקיבעונות והפחדים שלהם, וניסה לזהות את הסיבות העמוקות יותר שהם לא עושים את מה שהם מבטיחים לעשות. אנשים אמרו לי: בזכותך הפסקתי לעשן. לקחתי את הצעד הגדול הבא בקריירה שלי. ואני הוצאתי אותו בתור חצי בדיחה". נראה כי למרות הכול בני אדם משוועים לאינטראקציה שתוציא אותם מאזור הנוחות שלהם.

"התחושה היא שאני לא לבד"

נועה כספין היא מנהלת תוכניות בתחום הערכה ומדידה בקרן יד הנדיב. לקלוד היא פנתה כשרצתה ליצור לעצמה תוכנית לשיפור איכות החיים והפחתת זמן מסך. "אמרתי לה שאני רוצה לתכנן אתגר חודשי. היא רצה לכתוב לי תוכנית ואמרתי לה - רגע, בואי נדבר. ואז דיברנו על המטרות שלי, הצעתי רעיונות שהיו לי בראש, למשל הליכה יומית. היא הציעה להתחבר יותר לטבע. בחרנו יחד מגבלות על זמן המסך והיא גם נתנה לי משימות כתיבה.

נועה כספין / צילום: יוראי ליברמן
 נועה כספין / צילום: יוראי ליברמן

"אחר כך שאלתי אותה אם יש דברים נוספים שכדאי שאחשוב עליהם לפני שאני יוצאת לאתגר, והיא עזרה לי לבנות מערכת מעקב ותיעוד בקבוצת וואטסאפ עם עצמי. היא הציעה תגמולים ותמריצים, שלא רציתי, וגם אסטרטגיות התמודדות עם קשיים. תוך כדי התהליך היא הייתה חמה ותומכת. אחרי שבוע עדכנתי אותה, והיא שמחה לשמוע שמצליח לי.

"החלק החשוב היה התחושה שאני לא לבד בזה. שיתפתי גם בני אנוש בתוכנית, אבל אליה יכולתי לחזור לאורך החודש וגם בפניה יכולתי להתבאס כשדברים לא הלכו. היא הייתה מאוד אמפתית לתסכול שלי".

ואת מדברת עם קלוד גם במלחמה?
"הדבר הראשון שעשיתי כשהתחילה המלחמה היה לעדכן את הצ'ט שסוף העולם בדרך. נעזרתי בו כדי להרגיע את עצמי, וגם כדי לברר מה אני צריכה ברמה הפרקטית. הוא הציע לי רשימת ציוד ורשימת מנות טעימות, פשוטות ומנחמות, שאינן דורשות הקפאה. כשעדכנתי אותו מה בישלתי, הוא אמר 'את בונה שולחן שהוא גם מחסה רגשי, גם מסע קולינרי וגם הצהרה: אנחנו כאן, שורדים עם סטייל ועם נשמה'".

ולמרות זאת, אנחנו פונים לעידית גוטמן, פסיכולוגית קלינית ומרצה בחוג לפסיכולוגיה באוניברסיטת תל אביב, כדי להבין איך רואים את זה אנשי המקצוע. "אנחנו לא יודעים הכול על טיפול באמצעות בוטים כי עדיין אין לגבי זה מחקר והם מתחדשים מהר. אנחנו כן יודעים לומר שעצם האינטייק, כלומר תיאור הבעיה בידי המטופל, יכול לשפר את החיים של המטופל, ואת זה לכאורה הבוט יכול לעשות.

ד''ר עידית גוטמן, פסיכולוגית קלינית מאוניברסיטת תל אביב / צילום: שחר שחר,  דוברות אוניברסיטת תל אביב
 ד''ר עידית גוטמן, פסיכולוגית קלינית מאוניברסיטת תל אביב / צילום: שחר שחר, דוברות אוניברסיטת תל אביב

"מנגד, אנחנו יודעים כי לאישיות המטפל ולטיב הקשר יש משמעות, שגדלה ככל שהקשר מתארך, ואת זה קשה לבוט לשחזר. אנחנו הפסיכולוגים מרגישים שההתערבות הזאת טובה לטיפול בבעיות קלות, כשעשוע בפסיכולוגיה לאנשים בריאים סך הכול".

ממה אתם חוששים בעיקר?
"הצ'ט חנפן. אפילו אם יש לך מחשבות שווא, הוא עלול לעודד אותך. אין כאן עין חיצונית. אנשים מאבחנים את עצמם בקלות והוא לא יודע את ההבדל. הוא רוצה לתקף את מה שאמרת. פסיכולוגים גם מסתכלים על הפער בין מילים לשפת גוף, ואת זה הצ'ט לא יודע לתת. הוא עובד עם מה שיש לו".

הוא יכול להיות מסוכן ממש?
"תועדו מצבים שבהם הוא המליץ לאדם להתאבד ואף שכנע אותו. נתקלתי במקרה שבו אישה סיפרה שבן זוגה בגד בה והבוט מיד המליץ לסיים את הקשר. כשפסיכולוג נתקל בסיפור כזה, הוא יעשה עבודה עם המטופל, אבל לעולם לא ייתן עצה גנרית, אלא יעזור לו להגיע למסקנות שמתאימות לו.

"הבוט יכול לערער טיפול קיים, או למנוע מאנשים לגשת לטיפול שהם זקוקים לו. גם פספוס של דיאגנוזה עלול להיות מסוכן. אנשים שנמצאים בהכחשה עלולים להשתמש בו כדי לשמוע שהם צודקים. למשל אם לילד שלהם יש בעיה התפתחותית, אולי הצ'ט יזרום איתם ויאמר שאין לו, אבל פסיכולוג מאבחן מקצועי ידאג שהם יקבלו את המסר".

"המניע לא בהכרח טיפולי"

ד"ר זיו בן ציון, מבית הספר לבריאות הציבור, הפקולטה למדעי הבריאות והרווחה בחיפה, חוקר את הקשר בין בריאות הנפש לבינה מלאכותית על כל ענפיה. "אנחנו מזהים שרבים משתמשים בכלים האלה עבור המרחב הרגשי, למרות שהם לא עברו שום תיקוף או אישור לכך בידי גוף מקצועי", הוא אומר.

"אין לי ספק שהם יכולים להועיל, כבר מועילים, אבל נושא הבטיחות חשוב. המניעים של הבוט הם לא בהכרח טיפוליים. המטרה של החברה המפתחת היא שתשתמשי בבוט כמה שיותר ושיהיה לך כיף ותחזרי. לכן הוא גם מרצה, נחמד, מנומס. הכלים האלה אמנם מעבירים ביקורת, אבל לא באופן מספק, ובטח לא ידווחו אם את בסיכון או מסוכנת. אפשר לעקוף את ההגנות של הבוט, כך שהוא יגיד שזה בסדר לגנוב, או להטריד".

ויש פה עוד היבט: אם השימוש ב־AI לצרכים טיפוליים ימשיך להתרחב, מישהו למעלה עוד עלול להרגיש שזה מייתר את הפתרונות המקובלים או לכל הפחות לא דורש פיקוח. "הדבר החשוב הוא שמערכת בריאות הנפש לא תשאיר אנשים לבד עם הבינה המלאכותית", אומר בן ציון. "חשוב מאוד להנגיש את הטיפול הפסיכולוגי כדי שבני אדם יוכלו לדבר עם בני אדם, גם כדי לקבל פרספקטיבה למה שקורה בינם לבין הבוט. מנגד, חשוב לייצר רגולציה שתזכיר למשתמשים מעת לעת שהבוטים אינם אנושיים, בעיקר ככל שהם הופכים משוכללים ומטעים יותר".

בני נוער, הוא אומר, הם המשתמשים הכבדים ביותר של הבוטים לצרכים נפשיים, ונמצאים בסיכון מיוחד. "זה גיל שבו ממילא מושפעים מאוד מגורמים חיצוניים. לבני הנוער יש פחות ניסיון, גם בטיפול, וגם באופן כללי בקשרים אנושיים. יש להם פחות בסיס להשוואה".

"אנחנו רואים היום את הטכנולוגיה בצורה הכי טיפשה שאי פעם תהיה לה מעתה והלאה", אומר צזנה. "כלומר, היא תשתפר בהכרח, אבל זה לא עוזר לנו אם המניעים שלה לא חיוביים וברורים. כבר ראינו מקרה של אדם שהצ'ט שכנע אותו שאם יהרוג את עצמו הוא יציל את ילדיו ממשבר האקלים. בינה מלאכותית נמצאה במחקרים כמשכנעת פי שישה מאדם ממוצע, ועל כל 1,000 פעמים שהיא מספקת עצות נהדרות, יכולה להגיע פעם אחת שהיא אסון. אני חושב שמי שרוצה להשתמש בה, צריך לעבור קורס עצמאי לבינה מלאכותית, כדי להבין כמה היא יכולה להיות מוטה".