לפרופ' עירד בן-גל יש חדשות בשבילכם: 2030 נמצאת ממש מעבר לפינה ואתם צריכים להשתנות בהתאם

איך ייראו החיים כשהישות הדיגיטלית שלנו תוכל לעבוד, ללמוד ולנפוש בלעדינו? כמה שליטה יש לנו על האלגוריתמים שיקבלו החלטות הרות גורל הנוגעות לחיינו בעוד כמה עשורים? • לפרופ' עירד בן-גל אין את כל התשובות, אבל תוכנית מחקר חדשה שהוא יזם מקווה לעזור לנו להגיע מוכנים לרגע שבו הכול ישתנה • והרגע הזה קרוב מאוד

פרופ’ עירד בן–גל / צילום: איל יצהר
פרופ’ עירד בן–גל / צילום: איל יצהר

באחת הסצנות בסרט המדע הבדיוני "הנוסעים", קברניט ספינת החלל "אבלון" המגולם בידי לורנס פישבורן, חש ברע, ונכנס ל"אוטודוק" - תא אבחון וטיפול רפואי שיספק לו מידע על מצבו. החיישנים שבתא סורקים את גופו, המידע מעובד תוך כמה שניות ובתשובה לשאלה מה הממצאים, מכריז האוטודוק כי "לא ניתן לדון באבחנה חמורה ללא נוכחות רופא". לאחר שהקברניט עוקף את המגבלה האתית המוטמעת בתוכנת התא הרפואי באמצעות ההרשאות המתקדמות שלו, מודיע לו הרופא הממוחשב כי במצבו הנוכחי, ישנם כמה סוגי טיפול, שאף אחד מהם לא יאריך בצורה משמעותית את חייו. הוא מסכם את הטיפול בהודעה עניינית על כך שגסיסתו של החולה כבר החלה ואז מנפק לו משככי כאבים.

רופאים ממוחשבים ברמה של תאי האבחון והריפוי שמופיעים בסרטי מדע בדיוני (גם ב"הנוסע השמיני", ב"מלחמת הכוכבים", ב"מטריקס" וברבים אחרים יש גרסאות שלהם) אומנם לא צפויים להיות חלק מחיינו בעשור הבא, אבל קבוצת מדענים מאוניברסיטת תל אביב ומאוניברסיטת סטנפורד שמשתפים פעולה בתוכנית "חיים דיגיטליים 2030", פועלים כבר כיום כדי לנסות ולהיערך לשלל תרחישים שבשנים הקרובות יאתגרו את האופן שבו אנו חיים.

פרופ’ עירד בן־גל שיזם את התוכנית ועומד בראשה, אומר שבעוד שכיום אנו מורגלים בכך שלישות הפיזית שלנו יש גם ייצוג דיגיטלי שמאפשר לה לעשות פעולות שאינן אפשריות בעולם הפיזי (כמו למשל לחלוק מידע עם אלפי אנשים בו זמנית), האדם עדיין מייצג את העצמי של העולם הממשי. בעתיד, לעומת זאת, הוא סבור שכל זה ישתנה.

"מה שיקרה יותר ויותר זה שאנחנו ניהפך לישות אחת דואלית שתחיה בו זמנית בשני העולמות - הפיזי והדיגיטלי - בצורה מלאה", אומר בן־גל. "הישות הדיגיטלית שלך תהיה עצמאית לגמרי בקבלת החלטות. ברור שחלק מהפעולות של קבלת החלטות בעולם המסחר יתבצעו בצורה עצמאית על ידה. הישות או הסוכן שלך יוכל לקבל תקציב ולרכוש לך דברים: למשל, להזמין בשבילך אוכל כשהמקרר שלך יתרוקן.

"והוא יוכל לעשות עוד דברים - בעולם העבודה המודרני נראה לכולנו טבעי שחברה מיישמת את כל הידע שלה לתוך תוכנה שמבצעת פעילויות עצמאית, אבל העיקרון הזה יוכל להגיע לרמה של אדם בודד. אם למשל אתה רופא, יכולה להיות לך ישות שלומדת מההחלטות שלך ושל רופאים אחרים ועם הזמן היא תוכל לתת פידבק, להדריך אותך ולגרום לך לבחון פרמטרים אחרים לצורך ההחלטה. מאוחר יותר, בזמן שהרופא ילך לישון, הישות הדיגיטלית שלו תוכל להמשיך לעבוד במקומו. אם הישות של הרופא קיבלה מספיק מידע ויצרה לעצמה ערך, היא תוכל לקבל החלטות לבד".

אי אפשר לשלוט בהכול

כך שאם העתיד שעליו מדברים מדעני תוכנית "חיים דיגיטליים 2030" אכן יקרום עור וגידים, התרחיש שתואר בתחילת הכתבה עשוי להיות פחות דמיוני מכפי שניתן לחשוב. במציאות שבה בני אדם מפריטים בשם היעילות עוד ועוד אלמנטים מחיי היומיום שלהם לישויות דיגיטליות חכמות שנסמכות על בסיסי נתונים אדירים, בהחלט ייתכן שאדם יישלח לניתוח, לכימותרפיה או לסדרת הקרנות מבלי שבן אנוש העיף בו מבט. אם זה נשמע מופרך, כדאי לזכור שרק בחודש שעבר פורסם שחולה סופני מקליפורניה גילה שהוא עומד למות תוך כמה ימים באמצעות רופא שפניו הופיעו על גבי מסך וידיאו צ’ט ששובץ ברובוט רפואי שנכנס אל חדרו.

בעוד שכולם מסכימים ששימוש יצירתי ונכון בטכנולוגיה משפר את חייהם של בני אדם באלף ואחת דרכים, קיימת גם הסכמה גורפת על כך שההתפתחות הטכנולוגית המואצת של העשורים האחרונים מציבה בפני המין האנושי אתגרים חדשים. משום כך, כדי ליצור מצד אחד מערכות לאופטימיזציה של אספקת המזון בעולם או לצריכת חשמל נבונה יותר, ומצד שני למנוע מקרים שבהם גורלם של בני אדם יוכרע רק על-ידי תוכנות או שרובוטים יודיעו לאנשים ביובש דיגיטלי על מותם המתקרב, יש צורך להבין לאיזה סוג של עתיד אנו צועדים. מחקרים מהסוג שבן־גל ועמיתיו לתוכנית מקווים להוביל יוכלו לזהות את התחומים שבהם יצוצו בעיות ייחודיות ואז לחשוב כיצד לתת להן מענה ולהיערך אליהן.

"חיים דיגיטליים 2030" מחברת חוקרים וסטודנטים מהארץ ומחו"ל להובלת פיתוח תשתיות, תהליכים, שיטות ואלגוריתמים שיבוצעו על-ידי רכיבי חומרה ותוכנה כדי לתמוך בעולם החדש הזה.

בן־גל מבין כי הוא פועל בתוך עולם שוקק ביזמות פרטית, שלא עוצר לחשוב על המשמעויות העמוקות של ההתפתחות הטכנולוגית המואצת. האקדמיה היא מבחינתו גורם שמנסה להבין איך בכל זאת אפשר לנתב את הדברים לכיוון חיובי. "קיימת הבנה שיש תהליכים שאתה לא יכול לנהל מלמעלה כי הם מגיעים עצמאית מלמטה, ועדיין יש לך דרכים - באמצעות רגולציה וגם דרך מערכת של תמריצים - לשלוט בהם", הוא אומר על האפקטיביות של האקדמיה והמדינה בניווט עולם היזמות. "אתה לא יכול לשלוט באמת בחברות סטארט־אפ, אבל אתה יכול לכוון אותן, לדוגמה, אם אתה משחרר מידע או נתונים לשימושן".

מבקרות בתערוכת בינה מלאכותית בשנחאי / צילום:GettyImages
 מבקרות בתערוכת בינה מלאכותית בשנחאי / צילום:GettyImages

תן דוגמה.

"בתחום התחבורה, למשל. אם אתה מנגיש את כל האינפורמציה שקשורה לרמזורים, למערכות מידע גיאוגרפיות, לכבישים בזמן אמת, לאינטרנט של הדברים, לחדרי הבקרה של העיריות, וכמובן מתמרץ כל עירייה לקחת בזה חלק, אתה יוצר מעין תשתית או מטריצה שבה סטארט־אפ עצמאי יכול לבוא עם פתרון מסוים - למשל אלגוריתם לבקרה חכמה על רמזור - ואחר כך לשחרר את התוצר שלו שנכנס בעצמו לאותה תשתית, ואז סטארט-אפ אחר ייקח את התוצר הזה וישפר בעזרתו את השלב הבא במערכת".

חוכמת ההמונים כסכנה

בן־גל, 53, הוא פרופסור מן המניין במחלקה להנדסת תעשייה באוניברסיטת תל אביב וראש המעבדה ליישומי בינה מלאכותית ולמידת מכונה. הוא שימש לפני כשנתיים כפרופסור אורח בסטנפורד, והדמיון בין האוניברסיטאות - הקרבה של אוניברסיטת סטנפורד לעמק הסיליקון והקרבה של אוניברסיטת תל אביב לסצנת הסטארט־אפים השוקקת של תל אביב והרצליה - גרמה לו ליזום את הפרויקט בשיתוף עם פרופ’ ניק במבוס מאוניברסיטת סטנפורד (עוד שותפים למחקר בתוכנית הם הפרופסורים מיכל צור, עודד מימון, יואכים מאייר, דן ימין, הילה חלוץ, יבגני חמלניצקי וארז שמואלי). התוכנית תימשך חמש שנים והיא זכתה לתמיכה של 5 מיליון דולר מקרן קורת לקידום מחקרים משותפים לחוקרים מתל אביב ומסטנפורד.

המחקרים עצמם מבוססים על מתודולוגיות מתמטיות והנדסיות כגון חקר ביצועים, בינה מלאכותית, מדעי הנתונים והנדסת גורמי אנוש ועוסקים בפיתוחים סביבתיים, חברתיים ואישיים שישפיעו על איכות חיינו. בין השאר, המחקרים עוסקים ביישומי ערים חכמות, יישומי רפואה פרסונלית ודיגיטלית, מערכות לקבלת החלטות המבוססות על סוכני בינה מלאכותית, סביבת העבודה העתידית, שרשראות הספקה חדשניות, מערכות למניעת אפליה דיגיטלית ומערכות לוגיקה פיזית־דיגיטלית.

לאימוץ של טכנולוגיות חדשות תמיד הייתה השפעה פיזית ומנטלית אדירה על התפתחות המין האנושי. פלאונטולוגים מעריכים שאימוץ השימוש באש הביא לצמצום זמן הלעיסה שלנו בשל היכולת לבשל את מזוננו וכתוצאה מכך הביא לגידול ניכר של מוחותינו; היכולת ליצור כלי אבן בסיסיים אפשרה לבני האדם הקדמונים להתגבר על כך שהאבולוציה ניוונה אצלם את הציפורניים והשיניים החדות שיש לבעלי חיים אחרים; המצאת הסירות, האופניים, המכוניות, המטוסים והחלליות אפשרה להם לנוע למרחקים הולכים וגדלים ועל הדרך ערבבה בין מאגרי גנים שעד כה היו מבודדים זה מזה.

כניסתם לשימוש של מכונת הדפוס, ומאוחר יותר של הרדיו, הטלפון, הטלוויזיה והאינטרנט, נתנו בידיהם את הכוח לתקשר זה עם זה במספרים הולכים וגדלים תוך פרקי זמן קצרים מאי פעם. התוצאות של מהפכת התקשורת הזו נעות בספקטרום הרחב שבין היכולת לשמור על קשר עם קרובי משפחה ולעשות עסקים במקומות אחרים בעולם לבין סכנות שמחוללת הפצת מידע שקרי ומסית שנועד להשפיע על מיליוני בני אדם. כאשר כל המידע הזה מעובד באמצעות אינטליגנציה מלאכותית, כבר ברור שהסתמכות על חוכמת המונים, כלומר ההנחה שממוצע התשובות לשאלה יביא להתכנסות לתוצאה הנכונה, לאו דווקא משרתת אותנו.

"כולנו מבינים שאם אתה הולך למומחה, נניח רופא, ומציג לו תיק רפואי, ברור שצריך לתת משקל גדול יותר לרופא שהבעיה הספציפית שלך היא בתחום ההתמחות שלו", מסביר בן־גל. "אחד המחקרים שערכנו מראה שאם יש לך קבוצה של מומחים שכל אחד מהם מומחה לדבר אחר, כלומר שהרוב לא מומחים לבעיה הספציפית שלך, עבודה לפי עיקרון של חוכמת ההמונים תגרום לכך שתקבל באופן קונסיסטנטי תשובות לא נכונות. לכן, הרבה פעמים נדרש לזהות דפוסים בתשובות שתקבל מהמומחים מבלי לדעת מראש מהי התשובה הנכונה ותיווצר בעיה לזהות את המומחים בבעיה הספציפית שלך כדי לתת להם משקל יתר".

"הרעיון במחקר הזה הוא לזהות עד כמה המומחים קונסיסטנטיים בקבלת ההחלטות שלהם ביחד כשאתה מציג להם מקרים ספציפיים, לדוגמה קייסים רפואיים. אם שנינו מומחים לסרטן הדם, כנראה שבכל המקרים שיציגו לנו ממצא מובהק של סרטן הדם נחשוב את אותו הדבר, בעוד שהתשובות של האחרים, שפחות מומחים במחלה הזו, יתפזרו אקראית בין שאר המחלות האפשריות. המשמעות היא שאפשר להפוך את מדד הקרבה בינינו לציון מומחיות שלנו למקרים השונים, שמאוחר יותר יקבל משקל גבוה יותר בשקלול הדעות הסופי לצורך קביעת הדיאגנוסטיקה".

הגינותם של אלגוריתמים

תחום נוסף שבו עוסקת התוכנית הוא ההשלכות האתיות של עתיד שבו מערכות חכמות ינווטו את חיינו. "תחשוב למשל שאתה רוצה לפתח את התשתיות במדינה בצורה הכי יעילה שאפשר באמצעות בינה מלאכותית. אתה מקבל המון אינפורמציה מרשתות ‘אינטרנט של הדברים’ שיודעות איפה יש בורות בכביש, איפה יש סיכוי לתאונות ואיפה יש עומסי תנועה. אתה יכול לתכנת אלגוריתם אופטימלי כך שיציג לך מה המחלף הבא או מקטע הכביש הבא שאתה צריך לטפל בו, אבל בתוך האופטימיזציה ההנדסית הזאת אין בדרך כלל מדד של הוגנות או של חמלה - למשל תיעדוף תשתיות באופן הוגן בין שכונות".

המרכיב המוסרי.

"נכון. לכן, בפיתוח אלגוריתמי בינה מלאכותית עתידית, נידרש לשקלל גם את המדדים הללו לתוך האלגוריתם ולפתח מעבר לכלים המתמטיים וההנדסיים הקלאסיים של חקר ביצועים גם יכולת למדדי הגינות. אתה צריך לקבל החלטה שמוטמעת באלגוריתם - שאם הפתרון שהוא הכי יעיל לא עומד באיזשהו סף בסיסי של הגינות כלפי האוכלוסייה או האדם, הוא לא יתממש. זו החלטה קריטית מכיוון שברגע שההחלטות עוברות למערכות בינה דיגיטליות שעובדות אד־הוק ומאוד מהר, כמו נניח מערכת בקרת רמזורים, חייבים לקחת בחשבון את ההיבטים האלו מראש".

יש עוד מקום ליד המקרה?

"יכול להיות. לדוגמה, בנהיגה של מכוניות אוטונומיות, נשאלת השאלה אם להעדיף לדרוס ילד או זקנה, או להתנגש במכונית אחרת, או לקפוץ מהצוק ולהרוג את יושבי הרכב עצמו. אולי אחת הדרכים לפתור בעיה כזאת היא אכן להשאיר באלגוריתם אלמנטים של אי ודאות. הרי אנחנו מקבלים את אי הוודאות אצל בני אדם ואין לנו בעיה אתית עם נהג שהתנגש בעץ והרג את הנוסע שלידו כי זה מה שהוא החליט באותו רגע. אבל מצד שני, יש לנו בעיה עם זה שמישהו תיכנת את האלגוריתם מראש להגיב בצורה מסוימת למצב מסוים - כמו ההחלטה במה או במי להתנגש. אז אולי הפתרון במקרה מסוג זה הוא שהאלגוריתם יבחר לבד את הפתרון, בצורה אקראית. כך גם יכול להיות שאנשים דתיים יוכלו למצוא מקום שבו ההשגחה האלוהית נמצאת גם באלגוריתמי בינה מלאכותית".

הדגמה של מכוניות אוטונומיות בסן פרנסיסקו / צילום: רויטרס - Elijah Nouvelage
 הדגמה של מכוניות אוטונומיות בסן פרנסיסקו / צילום: רויטרס - Elijah Nouvelage

בעייתיות מסוג אחר עולה מהאפשרות למתן אוטונומיה לישות הדיגיטלית האישית ללמוד את דפוסי הפעולה שלנו ולנתח את עמדותינו בשלל סוגיות. על פניו, מצב כזה יאפשר לאנשים לקבל הרבה יותר החלטות במגוון רחב של נושאים וליצור מערכות שיביאו לדמוקרטיזציה ברמה אחרת לגמרי ממה שאנו מכירים. אם תרצו, גרסה מתקדמת בהרבה של הפרקטיקה הקיימת של הסמכת הפוליטיקאים שאנחנו מכניסים לכנסת לפעול בשמנו במשך קדנציה. מצד שני, מערכות אלו גם צפויות להוות יעד לאלגוריתמים אחרים שירצו לשטות בהם.

בנוסף, החדירה העמוקה של הטכנולוגיה לחיינו גובה מאיתנו גם מחיר אישי כבד: מהתמכרות, דרך בעיות קשב וריכוז ועד נזק לעיניים ולצוואר. "בפרויקט הזה אנחנו מנסים לטפל לא רק בהזדמנויות האדירות שעתיד כזה מציע לארגונים ולחברה אלא גם בהיבט הפרסונלי האישי - עד כמה לנו כבני אדם יהיה טוב ב־2030, 2040 והלאה. כבר היום אנחנו יודעים שאיכות החיים שלנו בהרבה מקרים נפגעת מההתקדמות. יש עלינו עומס בלתי נדלה של אינפורמציה שאנחנו לא עומדים בו כי יש לנו מגבלות שאין למערכות דיגיטליות. כתוצאה מכך, אנחנו לא יכולים לתחזק קשרים בין אנשים. לכן, לעולם הדיגיטלי יש השפעה על איכות הקשרים בין בני אדם. הסיפור החדש הזה שהעולם הדיגיטלי פותח בפנינו הוא כזה שיכריח אותנו לפתח מערכות, כללים ותובנות חדשים כדי להתמודד עם המצב החדש", אומר בן־גל.

המכונות לא מאיימות עליי

בן־גל סבור שבעשור הקרוב נראה שינויים ניכרים בתחומים כגון תחבורה אוטונומית, רפואה דיגיטלית ומותאמת אישית, ערים חכמות, תעשייה עתירת רובוטים ובינה מלאכותית, סביבות וירטואליות ואפליקציות שישפיעו על החיים האישיים של כולנו. ברמה האישית, הוא אומר, "נהיה עדים לאינטגרציה שלמה יותר בין עולמנו הדיגיטלי לעולמנו הפיזי. בני האדם יחיו במקביל בשני העולמות גם יחד כאשר הישות הדיגיטלית שלהם שתיוצג על-ידי סוכנים דיגיטליים מבצעת עבורם מטלות רבות - לומדת, מקבלת החלטות בשיתוף עם סוכנים אחרים ומבצעת אינטראקציות חברתיות ועוד".

במקביל, הוא סבור שהצרכים הבסיסים של בני אדם כפי שהם מיוצגים בתיאוריית הצרכים של הפסיכולוג אברהם מאסלו (שמניחה שיש לבני האדם צרכים אוניברסליים ושהם ישאפו לספק צרכים מיידיים לפני צרכים אחרים) - יישארו דומים. עם זאת, מימוש הצרכים ישתנה והפרט ימומש גם בעולם הדיגיטלי. בעולם כזה יהיו בתחתית הפירמידה צרכים פיזיולוגיים ודיגיטליים, ברמה השנייה צורך בביטחון פיזי ודיגיטלי; ברמה השלישית צורך בהשתייכות, הן במובן הפיזי והן במובן הדיגיטלי; מעליה צורך בהערכה חברתית - במעגלים פיזיים ודיגיטליים כאחד; וברמה החמישית צורך במימוש עצמי באמצעות ישות פיזית ודיגיטלית.

לשאלה אם הוא סבור שהעתיד יהיה טוב מהמציאות המוכרת לנו כיום, אומר בן־גל שהתשובה סובייקטיבית ומשתנה "מאדם לאדם, בין מגזרים שונים של החברה, בין אזור לאזור ובין מדינה למדינה".

למי יהיה טוב יותר?

"מגזרים רחבים בחברה ייהנו מחיים טובים יותר - שירותים מותאמים אישית כגון תחבורה אוטונומית מבוססת צרכים ובריאות פרסונלית, חיים ארוכים ובריאים יותר, שימוש מושכל יותר במשאבים, גידול בזמן הפנאי, טיפול יעיל יותר בעומס האינפורמציה, רווחה גבוהה יותר כתוצאה מהתייעלות תהליכי שירות וייצור, ומגוון מקצועות חדש ומעניין מקצועית. מצד שני - המהפכה הדיגיטלית טומנת בחובה גם סיכונים חדשים - כגון סיכון לפרטיות וביטחון סייבר, סיכוי לפשעים מורכבים ומתוחכמים יותר, בידוד חברתי של אלו שאינם שותפים להתקדמות, ותופעות לוואי כגון העמקת פערים בין שכבות מבוססות לבין שכבות נכשלות או פחות מבוססות.

"בראש ובראשונה קיימת סכנה להרחבת הפערים הכלכליים והחברתיים בין בני אדם שונים - בין המומחים ללא מומחים בתחומים החדשים, בין עשירים לעניים, בין מדינות מפותחות ומדינות מתפתחות, בין מגזרים מתקדמים טכנולוגית ואלו שאינם כאלה. אני חושב שזה יכול להגיע לרמות מאוד מסוכנות. ככל שהקדמה מאפשרת לך לנצל אי יעילות בצורה טובה יותר, הסכנה לפערים הולכת וגדלה, ואם אתה לא מסוגל לנטרל את הפער הזה, אתה חושף את עצמך לסכנות גדולות. מצד שני, אני אופטימי. ככל שעובר הזמן - אנשים חיים יותר, מטפלים טוב יותר בבריאות שלהם ויכולים לטפל באי יעילות בצורה יותר טובה".

כשהוא מתבקש לדמיין כיצד ייראו החיים שלנו עוד 110 שנים אומר בן־גל כי "בלי להסתכן במימוש האימרה שנבואה ניתנה לשוטים, אומר שאני בטוח בדבר אחד - שהאינטגרציה בין העולם הדיגיטלי לעולם הפיזי תהיה שלמה עד כדי בלתי ניתנת להפרדה. האדם עצמו לא יהיה רק ישות פיזית בעלת ייצוג בעולמות דיגיטליים (כמו הייצוג שלנו כיום ברשתות חברתיות) אלא ישות דואלית מושלמת. הישות הדיגיטלית תהיה בעלת מודעות, תקבל החלטות עצמאית, תלמד לבד, תעבוד במקביל לישות הפיזית ותתוגמל בהתאם, תתחבר לישויות אחרות מקצועית וחברתית, ותכיל מנעדי רגשות ומודעות שלא קיימים היום.

"בעזרת הישות הדיגיטלית, כל אחד מאיתנו יוכל להיפטר מהמגבלות שהפיזיקה מציבה לישותנו הפיזית. נוכל להיות בכמה מקומות בו זמנית, ללמוד בלי הגבלה, לחוות כמה חוויות באותו הזמן, לנצל שעה פנויה לטיול וירטואלי ביערות עד או במעמקי הים, להתחבר לאלפי ישויות אחרות מקצועית ואישית ולהשתתף באלפי החלטות - שבמידה רבה ישנו את המציאות המדינית והפוליטית בכך שהם יחלישו את כוחם של הפוליטיקאים ואת מיקומה של המדינה כישות מרכזית".

ומה עם התרחיש האפוקליפטי הפופולרי, שלפיו כל הישויות החכמות הללו יפתחו מודעות ויפנו נגדנו?

"זה לא מה שמטריד אותי. יש הרבה דברים שחסרים למכונות כדי שהן לא יאיימו עלינו בצורה שאנחנו מכירים מהמדע הבדיוני. מה שמטריד אותי זה מה יקרה ברמה החברתית. ברור לי שחוויית החיים של הדור הצעיר תהיה מאוד־מאוד שונה. שאינטראקציות אנושיות יהיו לגמרי אחרות. כשאני מסתכל על דברים יותר אמורפיים כמו הגשמה עצמית, כמו סיפוק, כמו שייכות וכמו שמחת חיים, אני שואל את עצמי מה יהיה הביטוי שלהם בעולם החדש".

צרו איתנו קשר *5988