גלובס - עיתון העסקים של ישראלאתר נגיש

טובי אורד / צילום: דויד פישר

"תחשבו על ההיסטוריה האנושית כמסע כביר דרך השממה. יש פניות לא נכונות וזמנים של קושי, אבל גם זמנים של התקדמות פתאומית ונופים מסחררים. באמצע המאה ה-20 הגענו למעבר הרים גבוה, וגילינו שהדרך היחידה להמשיך היא לאורך שביל צר לצד המצוק: מדף מתפורר על סף התהום. כשמביטים למטה נתקפים בתחושת ורטיגו עמוקה. אם ניפול, הכול אבוד. אנחנו לא יודעים בדיוק מה הסיכוי שניפול, אבל זה הסיכון הכי גבוה שאי פעם ניצב בפנינו".

ד"ר טובי אורד משוכנע שבפני האנושות ניצב עתיד מזהיר, אבל שכרגע אנחנו על סף תהום. והוא מתכוון לזה באופן די מילולי. אורד מעריך שיש סיכוי של אחד לשישה שהאנושות כמו שאנחנו מכירים אותה היום לא תמשיך להתקיים במאה השנים הקרובות.
סיכוי של אחד לשישה: זה כמו הסיכוי לירות בעצמך במשחק רולטה רוסית עם אקדח טעון. ככל שחושבים עליו יותר, כך המספר הזה הופך ליותר עוכר שלווה. אבל בשיחה איתו מתברר שאורד, פילוסוף ואקטיביסט העובד כחוקר במכון לעתיד האנושות באוניברסיטת אוקספורד, הוא דווקא אדם חדור אופטימיות, תקווה ואמונה עזה באנושות.

אתה מסביר שאנחנו נמצאים עכשיו ברגע מכריע בתולדות המין האנושי. למה בעצם?
"לאנושות יש היסטוריה ארוכה מאוד. כ-10,000 דורות באו לפנינו, ולפחות 10,000 דורות יכולים לבוא אחרינו. ולאורך התקופה הזאת ראינו את כוחותיה של האנושות מואצים באמצעות בנייה הדרגתית של רעיונות, חידושים וטכנולוגיות. בעקבות כך יש לנו יותר ויותר שליטה על העולם שלנו. במאה ה-20, עם פצצת האטום, הגענו לנקודה שבה פיתחנו יכולות כל כך כבירות לשנות את העולם עד שאנחנו מסוגלים להרוס את עצמנו".

אבל בעוד כוחה של האנושות גדל במהירות, ממשיך אורד, "התבונה של האנושות לשלוט בפעולות שלנו צמחה בקצב אטי ומהוסס הרבה יותר. וכך הגענו לנקודה שבה יש לנו כוח להרוס את עצמנו, מבלי התבונה לוודא שאנחנו לא עושים את זה. תמיד היו ברקע סיכונים טבעיים שהיינו חשופים להם. אבל הסיכונים שניצבים בפנינו במאה הזאת גדולים פי מאה מהסיכונים הטבעיים".

במרץ האחרון, בדיוק כשהקורונה פרצה במערב, יצא לאור ספרו של אורד "סף התהום" (The Precipice). זה היה "רגע מטורף להשיק ספר על סוף העולם", הוא אומר כעת בראיון ל-G, אף שאת הכתיבה שלו סיים כבר ב-2019, הוא מסביר.

ממקום מושבו באוקספורד אורד מנסה לשקול בקור רוח סיכונים כמו פגיעת אסטרואיד בכדור הארץ, התפרצות סופר-געשית, מגפה מהונדסת או - וזה האיום שמעסיק אותו יותר מכל - השתעבדות של האנושות לבינה מלאכותית שתצא משליטה. הוא היה רוצה שכולנו נחשוב ברצינות על סיכונים כאלה, ושבדרך נחשוב לא רק על עצמנו, אלא גם על הדורות שעוד ייוולדו. הוא מקדיש את הספר "למאה מיליארד האנשים שבאו לפנינו ועיצבו את הציוויליזציה שלנו, לשבעת המיליארדים שחיים עכשיו והפעולות שלהם עשויות לקבוע את גורלה, ולטריליונים שעוד יבואו וקיומם מונח על כף המאזניים".

אנשים בדרך כלל לא ממקמים את עצמם בין דורות העבר והעתיד.
"כשאנחנו חושבים על אתיקה אנחנו מתמקדים לרוב באינדיבידואל: מה אני צריך לעשות? לפעמים אנחנו מתמקדים בקרובי המשפחה, או בקהילה או באומה שלנו. אבל לאחרונה, במאה ה-20, התחלנו להתמקד בשאלות עולמיות. למשל, מה כולנו, בכל העולם, צריכים לעשות לגבי שינוי האקלים?

"מה שאני מנסה לעשות זה לקחת את זה צעד אחד הלאה, ולאמץ לעתים את נקודת המבט של האנושות לכל אורך הזמן. זה עוזר להאיר דברים חשובים, להניח כמה נורא היה אם היינו מתים עכשיו, בגיל ההתבגרות של המין האנושי, ומאבדים את הפוטנציאל שעוד לפנינו. לפני שכתבתי את הספר חשבתי הרבה על הנושאים האלה, על העתיד ועל כל מה שאנחנו יכולים להפסיד אם לא נשרוד את העידן הזה. זה מה שמניע אותי: התקווה לעתיד טוב וממושך הרבה יותר. אבל תהליך הכתיבה גם הבהיר לי כמה ארוך היה העבר שלנו, וכמה מכל מה שאנחנו לוקחים כמובן מאליו הוא תוצאה של חדשנות טכנולוגית של מאות אלפי שנים".

אפילו בגדים, אורד מסביר, הם דבר לא מובן מאליו. הרי בני אדם לא היו יכולים להתקיים באזורים הקפואים של רוסיה, למשל, מבלי שאבותינו הקדמונים היו מתחילים להתלבש. "כיום אנחנו יכולים לחיות ולשגשג בסביבות כאלה, ולעתים קרובות אנחנו לוקחים את זה כמובן מאליו. למעשה, רק במאות האחרונות התחלנו להבין את ההיסטוריה הארוכה של המין האנושי ולהכיר בערכם של החידושים הגדולים האלה". וכל זה - מורשת העבר וההבטחה שבעתיד - נמצא בסכנה.

"זה לא נושא לדורות הבאים"

טובי אורד (41), במקור מאוסטרליה, הגיע לאוקספורד כדוקטורנט לפני 15 שנה, חמוש בתואר ראשון בפילוסופיה ומדעי המחשב, ובחר להתמחות בפילוסופיה של המוסר. לאורך העשור האחרון קנה את שמו בזכות עבודתו על עוני עולמי, והמחויבות שלו לפילנתרופיה.
אורד הוא ממייסדי התנועה לאלטרואיזם אפקטיבי, שבהשראת הפילוסוף פיטר סינגר קוראת להשתמש ברציונליות ובראיות מוצקות כדי למצוא את הדרך המיטבית לעזור לאחרים. למשל, באמצעות תרומות.

עם סיום הדוקטורט הוא הקים את ארגון Giving What We Can, שחבריו מתחייבים לתרום לפחות 10% מהכנסתם לצדקה. 5,000 חברי הארגון כבר תרמו כ-200 מיליון דולר, והתחייבו לתרום כשני מיליארד דולר לאורך חייהם. אורד מעריך כי הוא אישית יתרום כמיליון פאונד לאורך הקריירה. הארגון גם העלה את אורד לכותרות כשהיה אקדמאי צעיר, וכיכב בלא מעט כתבות פרופיל, חלקן עם אשתו, שגם היא שותפה לחזון הצדקה. הוא רואיין בבמות נחשבות כמו "האקונומיסט", "פייננשל טיימס" ו"הניו יורקר", והוזמן להרצות ברחבי העולם ולייעץ לגופים בינלאומיים, כמו הבנק העולמי וארגון הבריאות העולמי, וגם בפני ממשלת בריטניה. "הסאנדיי טיימס" הבריטי תיאר אותו לאחרונה כ"פילוסוף משפיע ביותר". את הספר הנוכחי שלו הגדירו ב"ניו יורקר" ככזה שנוצר עבור הרגע הנוכחי, וב"לוס אנג'לס בוק רוויו" השוו אותו ל"אביב דומם" של רייצ'ל קרסון, הספר פורץ הדרך שתרם לעליית התנועה הסביבתית בשנות השישים.

אל הרעיון שסוגיית האיום הקיומי היא "אחת השאלות המוסריות החשובות של זמננו" הוא נחשף מכיוונו של הפילוסוף השוודי הנודע ניק בוסטרום, אותו הוא מגדיר מנטור ועמית. בוסטרום הוא מייסדו של"המכון לעתיד האנושות", ובעצמו פרסם ב-2015 רב-מכר מדובר ("Superintelligence"), על הסכנה הנשקפת מאינטליגנציה מלאכותית. זה נושא שנוי במחלוקת בקרב העוסקים בתחום (ועל כך בהמשך), אבל גם כזה המצית את הדמיון, בטח בעמק הסיליקון. בין התורמים למכון: אילון מאסק.

דווקא לאורד עצמו לקח זמן להגיע לעסוק באיומים קיומיים. נושאים אחרים, כמו העוני העולמי, נראו לו יותר דחופים, והעיסוק באיום הנשקף לאנושות כולה נראה לו "קצת מופרך". בסופו של דבר, הוא הגיע "להבנה שאיומים כמו מלחמה גרעינית ושינוי אקלים הם משהו שאנחנו לא יכולים להשאיר לדורות הבאים. אם אנחנו לא נתמודד עם זה, אף אחד לא יתמודד.

אחרי החוויה הקולקטיבית של העולם ב‏-2020, הוא אומר, ייתכן שגם הגישה הכללית לנושא תשתנה. "כמו שלבני אדם יש תגובה חיסונית לקורונה, שמתפוגגת עם הזמן, תהיה לנו תגובה חיסונית חברתית לאסון כזה - ובעוד חמש או עשר שנים היא תיחלש. יש חלון הזדמנויות ללמוד את הלקחים הנכונים, לבנות מנגנוני ביטחון ולתעדף את הביטחון שלנו לטווח ארוך יותר".

מה לגבי התגובה שלנו לקורונה עצמה? לאורד יש רגשות מעורבים. "המדע מאוד הרשים אותי: שיתוף הפעולה הבינלאומי והמהירות שבה המדענים פעלו - מריצוף הגנום ועד לפיתוח החיסונים. אבל חלקן של הממשלות היה די מאכזב. מול איום כל כך ברור ומיידי הייתי מצפה לתגובה טובה יותר".

סכנת המדען המיזנתרופ

אז למה בעצם הכוונה באיום קיומי? בעיני אורד "איום קיומי כולל גם סיכונים להיכחדות האנושות וגם סיכונים לכל דבר אחר שיגביל את העתיד שלנו באופן דרסטי ותמידי", הוא מבהיר. "אני מדבר על הדברים שיהרסו את הפוטנציאל ארוך הטווח של האנושות. דוגמה לכך יכולה להיות קריסה כל כך עמוקה של הציוויליזציה, שלא נוכל להתאושש ממנה. דוגמה אחרת יכולה להיות עתיד דיסטופי שבו התקבעה צורה איומה של ממשלה גלובלית, ואי אפשר לסלק אותה לעולם. בכל מקרה, זה חייב להיות משהו חמור, שבו כמעט כל הפוטנציאל שלנו נעלם, וכמעט בלתי אפשרי לברוח ממנו".

אורד מבדיל בין סיכונים טבעיים לסיכונים אנתרופוגניים, כלומר, כאלה שמקורם בבני האדם. בכל אחד מהמקרים הוא מנסה לתת הסתברות כלשהי לכך שהאיום יתממש במאה הקרובה. בין הסיכונים הטבעיים אפשר למצוא פגיעה של אסטרואיד או מטאור בכדור הארץ (סיכוי של אחד למיליון במאה השנים הקרובות), התפרצות סופר-געשית (אחד ל-10,000) או כוכב שיתפוצץ ויפציץ את כדור הארץ בקרני גמא וקרניים קוסמיות הרסניות (אחד למיליארד). אלה לא סיכונים מבוטלים, אבל יש כאלה שמדאיגים את אורד יותר.

"בני האדם נמצאים בסביבה 200 אלף שנה, כך שהסיכון בכל מאה שנים נתונות לא יכול להיות כזה גבוה", הוא מסביר. "מיני יונקים שורדים כמיליון שנים, אז עברנו רק 20% מהדרך. החדשות הטובות הן שלמרות שיש מספר מאוד גדול של סיכונים טבעיים, אנחנו יכולים לתחום את הכמות הטוטאלית של הסיכונים הטבעיים באחד ל-10,000 במאה השנים הקרובות".

להבדיל מסיכונים טבעיים, שלגביהם יש לנו עדויות היסטוריות, ואפשר לנסות להעריך את ההסתברויות שלהם, "כשמדובר בסיכונים שמקורם בבני האדם אנחנו צריכים להשתמש יותר בשיפוט שלנו, ויש יותר מקום לאי-הסכמות. לגבי האיומים הנוכחיים, ההתחממות הגלובלית ומלחמה גרעינית, ההערכה שלי היא שנשקף מהם סיכון של אחד לאלף. כלומר, כל אחד מהם הוא פי עשרה מכל הסיכונים הטבעיים יחד. כשמסתכלים על זה ככה, המשמעות היא שנכנסנו לעידן שבו הסיכון גדול הרבה יותר משהיה לאורך ההיסטוריה. אבל בעוד שמלחמה גרעינית גלובלית או שינוי אקלים הולכים להיות קטסטרופה במלוא המובן של המילה, הצד המלא של הכוס הוא שקשה יהיה להם להרוס את הפוטנציאל שלנו באופן קבוע".

כך למשל, לפי אורד, אפילו בתרחיש של מלחמה גרעינית עולמית שתביא לצניחה דרמטית בטמפרטורות ולקריסת יבולים, עדיין יהיו אזורים בעולם שבהם יהיה ניתן לגדל מזון ולשרוד.

זה נכון מבחינתו גם לגבי שינוי האקלים. "אנחנו מדברים לרוב על התחממות של כשלוש מעלות, אבל המדענים לא הצליחו לשלול התחממות של שש מעלות או אפילו עשר מעלות. זה עלול להיות רע באופן קיצוני. ועדיין - לא מוכרים לנו מנגנונים שבהם שינוי האקלים ממש יהרוס את האנושות".

כדי שזה יקרה, דרושים תרחישים קיצוניים ביותר כמו מנגנון היזון חוזר שגורם להתחממות בלתי נשלטת ולאידוי האוקיינוסים. "זה לא ששינוי האקלים לא גרוע כמו שאנשים חושבים. אלא שאולי הגזימו בסיכון שהוא יביא להיכחדות האנושות. הבעיה שיש סיכונים שמגיעים מכיוון טכנולוגיות חדשות שנמצאות באופק".

למשל, תרחיש של נגיף מהונדס. "אנחנו בתקופה מדהימה מבחינת ביוטכנולוגיה, שאחד ההיבטים הכי מדהימים בה הוא הדמוקרטיזציה של הטכנולוגיה. מהרגע שבו המדענים הכי טובים בעולם פיתחו טכניקה כמו crispr (טכניקה לעריכת גנים - א"פ) לקח שנתיים עד שסטודנטים השתמשו בה בתחרות מדעים.

"כלומר, מספר האנשים שמסוגלים לעשות את הדברים החדשים והמופלאים האלה גדל אקספוננציאלית עם הזמן, ויש כאן גם צד אפל: האפשרות לשנות פתוגנים, כמו וירוסים או חיידקים כדי להפוך אותם ליותר מידבקים או קטלניים. חלק מהמחקר הזה כבר מתבצע. למשל, מדענים יצרו גרסה של שפעת העופות שניתנת להעברה בין יונקים כדי לבדוק את הסיכון להדבקת בני אדם. הם עשו את זה במעבדה מאובטחת, וזה לא דלף. אבל אנחנו יודעים על מקרים של דליפת פתוגנים אפילו מהמעבדות הכי מאובטחות. אם יותר ויותר אנשים מסוגלים לעשות דברים כאלה, אם סטודנטים מסוגלים לעשות אותם, כמה זמן ייקח עד שתהיה תאונה נוראית או עד שאדם מיזנתרופ יתכנן במכוון מחלות הרבה יותר קטלניות מכל מה שראינו בטבע?".

הכי מדאיגה: בינה מלאכותית

אם שינוי האקלים והמלחמה גרעינית מקבלים הסתברות של אחד לאלף כסיכון לאנושות במאה השנים הקרובות, הרי שלמגפה מהונדסת הסתברות גבוהה הרבה יותר, של אחד ל-30. אבל הסיכון שאורד נותן לו את ההסתברות הגבוהה ביותר, של אחד לעשרה, הוא פיתוח אינטליגנציה מלאכותית שתאיים על עתיד האנושות. זה אולי מעט מפתיע אבל אורד נחוש: "למרבה הצער אני חושב שזה הסיכון הכי גדול. ואם מישהו לא מסכים, וחושב שהוא מבין יותר ממדעני הבינה המלאכותית - אז שאר הסיכונים ביחד הם עדיין ביג דיל".

מתי אנחנו עלולים להיתקל ב"אינטליגנציה מלאכותית כללית" שעלולה להאפיל על האנושות? אורד נשען על סקר שנערך בקרב כ-300 מומחים מובילים ללמידת מכונה בשנת 2016. "כששואלים את החוקרים המובילים בבינה מלאכותית מתי נהיה מסוגלים לבנות מערכות שיוכלו לבצע כל משימה שבני אדם מסוגלים למלא, התשובה החציונית היא בשנות החמישים של המאה הזאת. כלומר, יש סיכוי של 50% שזה יקרה בארבעת העשורים הקרובים.

"עכשיו, מדוע לאנושות יש שליטה על העולם? מדוע אנחנו המין היחיד שיש לו שליטה על הגורל שלו, להבדיל משימפנזות או פינגווינים למשל? בגלל היכולות הקוגניטיביות שלנו, האינטליגנציה. ואם אנחנו בונים מערכות שיש להן אינטליגנציה כללית ויכולת לבצע מגוון רחב של משימות מוכוונות מטרה, אנחנו מוותרים על היתרון הייחודי שלנו. אז מה גורם לנו לחשוב שנשמר את העמדה שהאנושות נהנית ממנה?".

בספר שלו אורד מתאר תרחישים (ספקולטיביים, הוא מודה) שבהם בינה מלאכותית כללית משכפלת את עצמה, משתלטת על עוד ועוד כוח מחשוב, מסכלת ניסיונות לסגור אותה, וצוברת שליטה גוברת בעולם. "בראייתי יש סיכוי של 50% שנפתח את המערכות האלה. ואז יש סיכוי של 80% שנצלח את זה בלי שהפוטנציאל שלנו ייפגע, כלומר, שנמצא דרך לשלוט בכל מערכות הבינה המלאכותית העתידיות האלה, ונוודא שהן משרתות את האינטרסים של האנושות, או לפחות לא עומדות בדרכנו. אבל יש סיכוי סביר שלא נצליח. אם מחברים את המספרים - 50% סיכוי שנפתח את המערכות האלה, ואז עוד 20% שלא נצליח לשלוט בהן - מקבלים 10% סיכוי שהאנושות תאבד במאה הזאת שליטה על הפוטנציאל ארוך הטווח שלה כתוצאה מבינה מלאכותית. לכן אני מודאג".

לא כל מי שעובד בתחום מסכים. פרופ' אורן עציוני מאוניברסיטת וושינגטון, אחד ממומחי הבינה המלאכותית (AI) המובילים בעולם, לא מודאג במיוחד מהאפשרות שהתקדמות הבינה המלאכותית תצא משליטה. "זה קצת כמו לדאוג שהוספת יכולת כוונון אוטומטי לסטריאו שלך תהפוך אותו לכוכב המוות מ'מלחמת הכוכבים' שישמיד את כל המורדים", אמר לי בראיון לפני כשנתיים.

אורד, מצדו, מדגיש שעציוני נמצא בקצה הספקני יותר מבין חוקרי הבינה המלאכותית, ושב אל הסקר שבו העריכו מחצית החוקרים שעד שנת 2058 תפותח אינטליגנציה מלאכותית כללית. העניין הוא, אומר אורד, שרבים מהעוסקים בתחום ממוקדים במחקר הנוכחי. "הם מתמקדים בכמה זה קשה לגרום למערכת שניצבת בפניהם לעבוד, אבל מודעים לכך ש-50 שנה מהיום, כשסטודנטים שרק מתחילים עכשיו יצאו לגמלאות, התחום יהיה במקום מתקדם הרבה יותר. והרגע הזה נמצא באופק הזמן שאני מדבר עליו".

כשמחברים את כל הסיכונים האלה, מגיעים לאחד לשישה. זה סיכון גבוה להדהים.
"זה באמת מאוד גבוה. אם הסיכון הוא באמת ברמות האלה, זה בבירור אחד הנושאים החשובים של זמננו. ואם אנחנו רוצים לנהוג בזהירות לגבי העתיד שלנו, זה סיכון גבוה מדי".

לכך צריך להוסיף את העובדה שחלק מהסיכונים שאורד מדבר עליהם קשורים זה לזה, על ידי גורמי סיכון משותפים. למשל, תרחיש של מירוץ חימוש בין מעצמות עולמיות שבו הן מנסות להצטייד גם במערכות בינה מלאכותית חזקות יותר וגם בנשק גרעיני משוכלל יותר. ובתרחיש כזה, אורד מוסיף, המתיחות בין מעצמות עלולה להקשות על שיתוף פעולה עולמי שישמור על האינטרסים ארוכי הטווח של המין האנושי.

זה אולי הרגע שבו עולה אפשרות נוספת: לברוח. אם אלה פני הדברים, אולי האנושות צריכה לפזר את הסיכונים ולנסות להתיישב על כוכבי לכת נוספים? זה עשוי לעזור, כותב אורד, אבל עדיין יש סיכונים, כמו בינה מלאכותית כללית, שסביר שישפיעו על כל מקומות המושב של האנושות באותו הזמן. התיישבות מחוץ לכדור הארץ לא פותרת את הצורך להתמודד עם האיומים הקיומיים.

כמי שהוא בעצמו הורה לבת, מה היית עונה למי שיגיד 'וואו, אם באמת יש סיכוי של אחד לשישה שהאנושות כפי שאנחנו מכירים אותה תפסיק להתקיים במאה הקרובה, למה שאביא ילדים לעולם הזה'?
"אני חושב שלמרות האתגרים שניצבים בפנינו קרוב לוודאי שבמאה הקרובה תהיה איכות חיים גבוהה יותר מבמאות הקודמות. כשמסתכלים על המגמות של תוחלת החיים, אוריינות, שוויון הזדמנויות בין המינים, יש בבירור שיפור מרחיק לכת. וגם אם יהיו עשור-שניים שבהם ניסוג לאחור, המגמות האלה ימשיכו בקצב דומה. הן מבטיחות.

"הדבר היחיד שגורם לי לחשש משמעותי הוא הסיכון שניפול קורבן לאסון שלא ניתן להשתקם ממנו. אבל גם אם זה יקרה, זה כנראה לא יהיה חלק גדול מהחיים של מישהו מאיתנו (שחי כיום). כך שאני לא חושב שצריכה להיות לזה השפעה גדולה על איך כל אחד מאיתנו מנהל את חייו הפרטיים.

"הסיבה כן לדאוג היא מוסרית - כי אכפת לנו זה מזה, אכפת לנו שמיליארדי אנשים יושפעו, ושמאות מיליארדי אנשים יקבלו את ההזדמנות להתקיים בעתיד. הם הסיבה שצריך להיות לנו אכפת, לא הפחד ממה שיקרה בזמן חיינו שלנו".

לסיכום, צללת לתחרישים די מפחידים בתחקיר לספר. מה לקחת מחוויית הכתיבה?
"זה היה מפכח. זה גרם לי להסתכל על הדברים ברצינות ולהבין את רמת האיומים שניצבים בפנינו. אבל בסופו של דבר אני עדיין מלא תקווה לגבי העתיד שלנו. הסיבה שחלק מהאנשים לא כל כך מתרגשים מאיומים קיומיים היא שהם לא רואים כל כך הרבה ערך בעתיד. אני לא מסכים. אני חושב שלאנושות יש את מלוא הפוטנציאל לעתיד ארוך ביותר וחיובי ביותר - ואת כל הסיכויים לממש אותו, אם רק נצליח לעבור את התקופה הקשה הנוכחית. זה מה שאני שואף לעשות: לעזור להגן על הפוטנציאל ארוך הטווח שלנו".

אז מה אפשר לעשות?  "אנחנו צריכים לומר לממשלות: קחו את העתיד ברצינות"

אורד לא מטיף לחוסר מעש ושיתוק. הוא מאמין שעתידנו בידינו. ברמת האנושות כמכלול, הוא אומר, האפיק המבטיח ביותר הוא כנראה שיתוף פעולה דרך מוסדות בינלאומיים כמו האו"ם. ובעקבות הקורונה, זה גם סביר יותר. "משברים גלובליים יוצרים לפעמים הזדמנויות חדשות", הוא אומר. למשל, ליזום "שיתוף פעולה בינלאומי טוב יותר לניטור מחלות או לפיתוח והפצת חיסונים מהירים. עכשיו השיחה על הנושא הזה יכולה להתקיים".

ואם מישהו רוצה לעשות משהו ברמה האישית כדי לשפר את עתיד האנושות?
"אני חושב שיש כמה אפשרויות. אחת היא להשתמש בתרומות על מנת ליצור שינוי. אני אישית תורם כרבע מההכנסה שלי למקומות שבהם לדעתי אני יכול לעזור הכי הרבה. למעשה, אני תורם את כל המקדמות והתמלוגים מהספר לארגונים שעובדים על הסיכונים המרכזיים האלה.

"והדבר הנוסף הוא להתחיל לדבר על זה באופן בוגר, לומר שאנחנו צריכים שממשלות ייקחו את העתיד ברצינות. חלפו 40 שנה מרגע הופעת הנשק הגרעיני עד להופעת מחאה נרחבת נגדו. עם שינוי האקלים לקח משך זמן דומה. אם אכן יתקיים דיון נרחב, נהיה מסוגלים לפעול הרבה יותר מהר כשתופיע טכנולוגיה חדשה ומאיימת".

אתה מדבר גם על החשיבות שבפיתוח טכנולוגיה שתגן על האנושות.
"מאוד חשוב לתת דחיפה לטכנולוגיות מגינות. אנחנו לא תמיד יכולים לומר אילו טכנולוגיות יגרמו ליתר סיכון ואילו יפחיתו אותו, אבל לפעמים כן. למשל, דיאגנוסטיקה שמאפשרת לקחת דגימה מחולה ולרצף את כל ה-DNA שיש בה, ולהשוות את זה למאגרי מידע, מבלי לדעת מראש באיזה וירוס מדובר. אם הייתה לנו טכנולוגיה כזו בתחילת הקורונה, היינו מגלים מהר מאוד שמדובר בנגיף שהווירוס הקרוב אליו ביותר הוא סארס, מה שהיה מרים דגלים אדומים. הטכנולוגיה הזאת בפיתוח כרגע, זה הכיוון".