Чому лонгтермізм є найнебезпечнішим світським кредо у світі

Автор: Філ Торрес, аспірант Інституту філософії Ганноверського університету імені Готфріда Вільгельма Лейбніца в Німеччині.

Спочатку це була лише маргінальна філософська теорія про майбутнє людства, але нині вона щедро фінансується та стає все небезпечнішою.

До нас приходить усвідомлення того, що людство наближається до свого «кінця». Новини переповнені страшними прогнозами катастрофи. Сьогодні в соціальних мережах переважають відео про пекельні пожежі, руйнівні повені та лікарні, переповнені пацієнтами з COVID-19. Активісти соціально-політичного руху «Повстання проти вимирання» (Extinction Rebellion) блокують міста у відчайдушній спробі врятувати світ. Одне опитування навіть показало, що більш ніж половина людей, яких запитали про майбутнє людства, «оцінила ризик того, що, з таким способом життя, нам прийде кінець протягом наступних 100 років у 50, а то й більше відсотків».

«Апокаліптицизм» або віра в те, що кінець світу неминучий, звісно, не є чимось новим: люди тисячоліттями попереджали, що кінець близько, і насправді багато дослідників Нового Завіту вважають, що сам Ісус очікував, що кінець світу настане ще за його життя. Але сьогодні ситуація кардинально змінилася у порівнянні з минулим. «Есхатологічні» сценарії, які зараз обговорюються, засновані не на одкровеннях релігійних пророків чи світських метанаративах людської історії (як у випадку з марксизмом), а на надійних наукових висновках, підтверджених провідними експертами в таких галузях, як кліматологія, екологія, епідеміологія тощо.

Ми знаємо, наприклад, що зміна клімату – це страшна загроза для цивілізації. Ми розуміємо, що втрата біорізноманіття та шосте масове вимирання можуть призвести до раптових, незворотних, катастрофічних зрушень у глобальній екосистемі. Термоядерна війна може закрити Сонце на роки чи десятиліття, що призведе до краху світового сільського господарства. І незалежно від того, чи походить SARS-CoV-2 з лабораторії Уханя чи він був приготований для нас природою (що нині здається більш вірогідним), синтетична біологія незабаром дозволить поганим людям створювати набагато смертельніші та заразніші патогени, ніж будь-що, що дарвінівська еволюція могла б винайти. Деякі філософи та вчені також почали бити на сполох через «нові загрози», пов’язані з машинним суперінтелектом, молекулярними нанотехнологіями та стратосферною геоінженерією, які виглядають не менш загрозливими.

Такі міркування змусили багатьох вчених визнати, що, як написав у 2016 році Стівен Гокінг у британській газеті «Ґардіан», «ми живемо в найнебезпечніший момент розвитку людства». Наприклад, британський астроном і космолог Мартін Різ прогнозує, що цивілізація має шанси 50/50 проіснувати до 2100 року. А Ноам Чомскі стверджує, що ризик знищення наразі «безпрецедентний в історії Homo sapiens». І Макс Тегмарк доводить, що «імовірно, це станеться ще за нашого життя… тож ми або самознищимося, або почнемо вчиняти правильно». Відповідно до цих невтішних заяв, організація «Бюлетень вчених-атомників» у 2020 році встановила свій культовий Годинник Судного дня всього за 100 секунд до півночі (або загибелі), найближче до кінця з тих пір, як годинник був створений у 1947 році, і понад 11 000 вчених з усього світу підписалися в 2020 році під статтею, в якій чітко і недвозначно говорилося: «планета Земля на межі кліматичної катастрофи», і без «масштабного збільшення наших зусиль щодо збереження біосфери [ми маємо ризик] зіткнутися з небаченими раніше стражданнями через кліматичну кризу». Як підсумувала цей екзистенційний настрій молода кліматична активістка Сіє Бастіда в інтерв’ю для американського журналу Teen Vogue у 2019 році, мета полягає в тому, щоб «переконатись, що ми не останнє покоління», оскільки нині така перспектива є цілком реальною.

З огляду на небувалі загрози, з якими стикається сьогодні людство, можна припустити, що філософи витратили немало чорнила, роздумуючи про етичні наслідки нашого вимирання, або пов’язані з ним сценарії, такі як остаточний крах цивілізації. Наскільки поганою (чи, навпаки, хорошою) в плані моралі є перспектива нашого зникнення та чому? Чи буде неправильною спроба завадити появі майбутніх поколінь? Чи пов’язана цінність минулих жертв, боротьби і прагнень з тим, що людство продовжує існувати доти, поки Земля, або Всесвіт загалом, залишається придатним для життя?

Але це не так: проблема нашого вимирання до недавнього часу не отримувала належної уваги філософів, і навіть зараз залишається на маргіналіях філософських дискусій та суперечок. В цілому, вони були зайняті іншими питаннями. Проте, є один помітний виняток з цього правила: протягом останніх двох десятиліть невелика група теоретиків, що здебільшого базується в Оксфорді, займається розробкою деталей нового морального світогляду під назвою «лонгтермізм» (англ. longtermism – довгостроковість), що підкреслює те, як наші дії впливають на дуже тривале майбутнє Всесвіту – через тисячі, мільйони, мільярди і навіть трильйони років. Цей підхід бере свій початок у творчості Ніка Бострома, який заснував пафосно названий Інститут майбутнього людства (ІМЛ) у 2005 році, та Ніка Бекстеда, наукового співробітника ІМЛ та працівника програми дослідницького фонду Open Philanthropy. Найбільш публічно його захищав філософ ІМЛ Тобі Орд, автор книги «Прірва. Екзистенційний ризик і майбутнє людства» (2020). Лонгтермізм (довгостроковість) є основним дослідницьким напрямом Інституту глобальних пріоритетів (ІГП), організації під керівництвом Гіларі Гривза, яка має зв’язок з ІМЛ, та Forethought Foundation (Фонду передбачливості), яким керує Вільям Макаскілл, який також обіймає посади в ІМЛ та ІГП. На додаток до плутанини назв, імен, інститутів та абревіатур, довгостроковість є однією з головних цілей руху так званого ефективного альтруїзму (EA), який заснував Орд приблизно в 2011 році і зараз може похвалитися приголомшливими 46 мільярдами доларів США у вигляді виділеного фінансування.

Важко переоцінити, наскільки впливовим став лонгтермізм. Карл Маркс у 1845 році заявив, що сенс філософії не просто в тому, щоб інтерпретувати світ, а в тому, щоб змінити його, і це саме те, що лонгтермісти роблять з надзвичайним успіхом. Наприклад, Ілон Маск, який цитував і схвалив роботу Бострома, пожертвував 1,5 мільйона доларів для ІМЛ через свою дочірню організацію, яка має ще грандіознішу назву «Інститут майбутнього життя» (ІМЖ). Його співзасновником був мультимільйонер, технологічний підприємець Яан Таллінн, який, як я нещодавно відзначив, не вважає, що зміна клімату становить «екзистенційний ризик» для людства через його прихильність до ідеології довготривалості.

Тим часом Пітер Тіль, мільярдер-лібертаріанець і прихильник Дональда Трампа, який свого часу виступив із основною доповіддю на конференції EA, пожертвував великі суми грошей Науково-дослідницькому інституту машинного інтелекту, місія якого врятувати людство від надрозумних машин глибоко переплітається з довгостроковими цінностями. Інші організації, такі як ІГП та Forethought Foundation, фінансують конкурси есе та стипендії, щоб залучити молодих людей до спільноти, хоча не секрет, що Центр безпеки та нових технологій (ЦБНТ) у Вашингтоні, округ Колумбія, прагне розмістити лонгтермістів на високопоставлених урядових посадах США для формування національної політики. Фактично, ЦБНТ був заснований Джейсоном Метіні, колишнім дослідником ІМЛ, який тепер є заступником помічника президента США Джо Байдена з технологій та національної безпеки. Сам Орд, що несподівано для філософа, «консультував Всесвітню організацію охорони здоров’я, Світовий банк, Всесвітній економічний форум, Раду національної розвідки США, Офіс прем’єр-міністра Великої Британії, Кабінет Міністрів та Урядовий офіс науки», а також нещодавно брав участь у доповіді Генерального секретаря ООН, в якому, між іншим, згадувалося про «лонгтермізм» (довгостроковість).

Насправді, довгостроковість цілком може бути однією з найвпливовіших ідеологій, про яку мало хто чув за межами стін елітних університетів та Кремнієвої долини. Як колишній лонгтерміст, який чотири роки тому опублікував цілу книгу на захист цього поняття, я вважаю, що необхідно змінити цю ситуацію. Я дійшов висновку, що така ідея є, можливо, однією із найнебезпечніших систем світських переконань сьогодення. Але для повного розуміння природи цього звіра ми маємо спочатку розітнути його і вивчити усі анатомічні особливості та фізіологічні функції.

Перш за все варто зазначити, що довгостроковість, запропонована Бостромом і Бекстедом, не рівносильна «турботі про довгострокові перспективи» чи «цінування благополуччя майбутніх поколінь». Вона виходить далеко за ці рамки. В її основі закладена проста, хоча й хибна, на мій погляд, аналогія між окремими людьми й суспільством загалом. Щоб проілюструвати цю ідею, розглянемо випадок Френка Ремзі, вченого із Кембриджського університету, відомого серед своїх ровесників як найвидатнішого розуму свого покоління. «У ньому було щось від Ньютона», – сказав одного разу письменник і літературний критик Літтон Стрейчі. Джорж Едвард Мур писав про «вкрай винятковий талант» вченого, а Джон Мейнард Кейнс назвав наукову працю Ремзі «одним з найвидатніших внесків у математичну економіку усіх часів».

Але історію Ремзі не можна назвати щасливою. 19 січня 1930 року він помер у Лондонській лікарні після хірургічної операції. Імовірно, причиною смерті стало зараження печінки, якого він зазнав під час купання в річці Кем, що протікає через Кембридж. Ремзі було всього лиш 26.

Можна стверджувати, що існують дві різні причини, чому ця розв’язка є такою трагічною. Перша – найбільш очевидна: обірвалося життя Ремзі, позбавивши його всього, що він міг би ще пережити й заради чого варто жити – радості та щастя, любові та дружби. У цьому сенсі рання смерть Ремзі була особистою трагедією. Але, по-друге, його смерть також позбавила світ інтелектуальної суперзірки, якій, очевидно, судилося зробити ще більш вагомий внесок у наукові знання людства. «Кількість стежок, прокладених Ремзі, була вражаючою», – пише сер Парта Дасгупта. Але скільки ще стежок він міг би прокласти? «Втрата для вашого покоління надзвичайно болюча, – нарікає Стречі, – Який світоч згас!», – що змушує задуматися про те, як могла б змінитися інтелектуальна історія Заходу, якби Ремзі не помер таким молодим. З цієї точки зору, можна стверджувати, що, хоча особиста трагедія смерті Ремзі була справді жахливою, його величезний потенціал, щоб змінити світ на краще, робить другу трагедію ще гіршою. Іншими словами, трагедія його смерті насамперед полягає в його нереалізованому потенціалі, а не в особистому досвіді страждання, яке він пережив. Принаймні саме такий аргумент висувають прихильники довгострокового підходу.

Лонгтермісти використовували б ці твердження і висновки щодо людства, начебто воно – це індивід зі своїм власним «потенціалом», який можна розтратити чи реалізувати, зруйнувати чи здійснити протягом свого життя. Тож, з одного боку, катастрофа, внаслідок якої людська популяція скоротиться до нуля, буде трагічною через усі ті страждання, які вона завдасть тим, хто житиме на той час. Уявіть собі жах голодної смерті за низьких температур, під чорним небом опівдні, протягом багатьох років або десятиліть після термоядерної війни. Це перша трагедія, особиста трагедія для тих, кого вона безпосередньо торкнеться. Але є й друга трагедія, яка, як стверджують лонгтермісти, набагато гірша за першу, пов’язана з тим, що наше вимирання назавжди закриє можливість надзвичайно довгого та процвітаючого майбутнього протягом наступних, скажімо, ~10¹⁰⁰ років (в цей момент «теплова смерть» зробить життя неможливим). Тож, ця катастрофа незворотно знищить «великий і славетний» довгостроковий потенціал людства, говорячи майже релігійною мовою Орда – «потенціал» настільки величезний, враховуючи розміри Всесвіту і час, який залишився до досягнення термодинамічної рівноваги, що перша трагедія згасає в порівнянні з другою.

Відразу спадає на думку інша паралель між індивідами і людством: смерть – не єдиний спосіб, яким чийсь потенціал може залишитися нереалізованим. Уявіть собі, що Ремзі не помер молодим, але замість того, щоб навчатися, писати та публікувати наукові праці, він проводив дні у місцевому барі, граючи у більярд та випиваючи. Той самий результат, але інший варіант невдачі. Застосовуючи цю логіку до людства, лонгтермісти стверджують, що існують різновиди колапсу, які можуть залишити наш потенціал нереалізованим навіть без загибелі людського роду, до чого я повернусь нижче.

Підсумовуючи ці ідеї, можна сказати, що людство має свій власний «потенціал», який перевершує можливості кожної окремої людини, і нездатність реалізувати цей потенціал була б вкрай поганою – справді, як ми побачимо, моральною катастрофою космічних масштабів у буквальному розумінні слова. Це центральна догма лонгтермізму: з етичного погляду немає нічого важливішого, ніж реалізація нашого потенціалу як «земного розумного життя». Це настільки важливо, що лонгтермісти навіть придумали термін, який звучить загрозливо, – «екзистенційний ризик» – на позначення будь-якої можливості знищення нашого потенціалу, а також – «екзистенційна катастрофа» – для будь-якої події, яка дійсно руйнує цей потенціал.

Чому я вважаю цю ідеологію такою небезпечною? Коротка відповідь полягає в тому, що надання найвищого пріоритету реалізації передбачуваного потенціалу людства може нетривіально збільшити ймовірність того, що реальні люди – ті, хто живе сьогодні і в найближчому майбутньому, – серйозно постраждають або навіть загинуть. Зверніть увагу, що, як я зазначав деінде, ідеологія лонгтермізму схиляє своїх прихильників до безтурботного ставлення до зміни клімату. Чому? Тому що навіть якщо зміна клімату призведе до зникнення острівних держав, викличе масові міграції та знищить мільйони людей, це, ймовірно, не поставить під загрозу наш довгостроковий потенціал у найближчі трильйони років. Якщо дивитися на ситуацію з космічного погляду, то навіть кліматична катастрофа, яка скоротить людське населення на 75 відсотків протягом наступних двох тисячоліть, за великим рахунком, буде не більш ніж маленьким спалахом – наче 90-річний чоловік, що забив палець ноги, коли йому було два роки.

Аргумент Бострома полягає у тому, що «неекзистенційна катастрофа, що викликала крах глобальної цивілізації, є, з погляду людства загалом, потенційно поправною невдачею». Це може бути «величезною бійнею для людини», додає він, але якщо людство відновиться, щоб реалізувати свій потенціал, це зрештою сприйматиметься як просто «невелика помилка людства». В іншому місці він пише, що найстрашніші стихійні лиха та руйнівні злодіяння в історії стають майже непомітними дрібницями, якщо дивитися на них із цієї довгострокової точки зору. Посилаючись на дві світові війни, СНІД і Чорнобильську ядерну катастрофу, він заявляє, що «хоч би якими трагічними були такі події для людей, яких вони безпосередньо торкнулися, у загальній картині речей… навіть найгірші з цих катастроф – просто брижі на поверхні великого моря життя».

Такий спосіб бачення світу, оцінки шкоди від СНІДу та Голокосту, передбачає, що майбутні катастрофи такого ж (неекзистенційного) масштабу та інтенсивності також слід віднести до категорії «простої брижі». Якщо вони не становлять прямої екзистенційної загрози, то нам не варто турбуватися про них, хоч би якими трагічними вони не були для окремих людей. Як писав Бостром у 2003 році, «пріоритетом номер один, два, три і чотири має бути… зменшення екзистенційного ризику». Він повторив це кілька років по тому, стверджуючи, що ми не повинні «розтрачувати» наші обмежені ресурси на «проекти неоптимальної ефективності, які лише покращують самопочуття», такі як подолання глобальної бідності та зменшення страждань тварин, оскільки ні те, ні інше не загрожує нашому довгостроковому потенціалу, а наш довгостроковий потенціал – це те, що дійсно має значення.

Орд вторить цим поглядам, стверджуючи, що з усіх проблем, з якими стикається людство, наше «перше велике завдання… полягає в досягненні безпечного місця, де екзистенційний ризик» – як він його визначає – «низький і залишається низьким», що він називає «екзистенційною безпекою». Найважливіше, зробити все необхідне для «збереження» та «захисту» нашого потенціалу, «витягнувши себе з безпосередньої небезпеки» та розробивши надійні «запобіжні заходи, які захистять людство від небезпек у довгостроковому майбутньому, щоб невдача стала неможливою». Хоча Орд визнає загрозу зміни клімату, він також стверджує, на основі сумнівної методології, що ймовірність того, що зміна клімату спричинить екзистенційну катастрофу становить лише ∼1 на 1000, що на цілих два порядки нижче, ніж ймовірність того, що надрозумні машини знищать людство в цьому столітті, за його розрахунками.

Тут справді примітним є те, що головна проблема полягає не у впливі кліматичної катастрофи на реальних людей у всьому світі (згадайте, з довгострокової точки зору, це було б, за словами Бострома, «невеликим помилковим кроком для людства»), а в певній, хай і незначній, ймовірності того, що, як стверджує Орд у «Прирві», ця катастрофа «створить ризик незворотного краху цивілізації або навіть повного вимирання людства». Знову ж таки, шкода, заподіяна реальним людям (особливо тим, хто живе на Глобальному Півдні), може бути значною в абсолютному вираженні, але якщо порівнювати з «величчю» і «славою» нашого довгострокового потенціалу у космосі, її навіть важко помітити.

Проте наслідки лонгтермізму набагато тривожніші. Якщо наші чотири основні пріоритети у тому, щоб уникнути екзистенційної катастрофи, тобто реалізувати «наш потенціал», тоді ми можемо пожертвувати майже будь-чим. Розглянемо коментар Томаса Нагеля, де описувалось, як поняття про «велике благо» використовувалося для виправдання певних звірств (наприклад, під час війни). Якщо цілі «виправдовують» засоби, як він стверджує, і цілі вважаються досить важливими (наприклад, національна безпека), це «можуть використовувати для заспокоєння совісті винних у вбивстві сотень дітей». Тепер уявіть, які злочини можна виправдати, якщо великим благом буде не національна безпека, а космічний потенціал земного розумного життя в найближчі трильйони років? Під час Другої світової війни загинуло 40 мільйонів цивільних осіб, але порівняйте це число з 10⁵⁴ або більше людьми (за оцінками Бострома), які б могли існувати, якби ми уникнули екзистенційної катастрофи. Що ми не повинні робити, щоб «захистити» та «зберегти» цей потенціал? Забезпечити існування цих ненароджених людей? Які засоби не можуть бути виправдані цією космічно значущою моральною ціллю?

Сам Бостром стверджував, що ми маємо серйозно розглянути питання про створення глобальної всеосяжної системи спостереження, яка відстежує кожну людину на планеті в режимі реального часу, щоб посилити «потенціал превентивного контролю» (наприклад, запобігти всегубним терористичним нападам, які можуть спустошити цивілізацію). Деінде він писав, що держави повинні використовувати превентивне насильство/війну, щоб уникнути екзистенційних катастроф, і стверджував, що порятунок навіть мільярдів реальних людей є моральним еквівалентом зовсім незначного зниження екзистенційного ризику. За його словами, навіть якщо в майбутньому існує «всього 1 відсоток шансу» на існування 10⁵⁴ людей, то «очікувана цінність зниження екзистенційного ризику всього на одну мільярдну частину від одного відсотка коштує у 100 мільярдів разів більше, ніж мільярд людських життів». Такий фанатизм – слово, яке щодо себе вживають самі лонгтермісти – змушує дедалі більше критиків турбуватися про те, що може статися, якщо політичні лідери у реальному світі серйозно сприймуть думку Бострома. Цитуючи математичного статистика Олле Хеггстрема, який, здавалося б, зазвичай схильний радше позитивно говорити про лонгтермізм: «Мені вкрай неприємна перспектива того, що [наведені вище розрахунки] можуть стати визнаними серед політиків та осіб, які приймають рішення, як керівництво до дії, що варто сприймати буквально. Це просто занадто нагадує стару приказку «Якщо ви хочете приготувати омлет, ви повинні бути готові розбити кілька яєць», яка зазвичай використовується для пояснення того, що трохи геноциду або чогось подібного може бути доброю справою, якщо це може сприяти досягненню мети створення майбутньої утопії. Уявіть собі ситуацію, коли глава ЦРУ пояснює президенту США, що вони мають достовірні докази того, що десь у Німеччині є божевільний, який працює над створенням зброї судного дня і має намір використати її для знищення людства, і що цей божевільний має один шанс із мільйона на успіх. У них немає жодної іншої інформації про особу чи місцезнаходження цього божевільного. Якщо президент прийняв аргументи Бострома близько до серця, і якщо він знає, як зробити арифметичні розрахунки, він може дійти висновку, що варто завдати повномасштабного ядерного удару по Німеччині, щоб вбити всіх до єдиної людини на її території».

Тож ось кілька причин, з яких я вважаю лонгтермізм глибоко небезпечним. Проте існують додаткові, фундаментальні проблеми з цим світоглядом, які, наскільки мені відомо, ніхто раніше не відзначав письмово. Наприклад, є всі підстави стверджувати, що основоположні принципи довгострокового світогляду є однією з головних причин, чому людству загрожує така кількість безпрецедентних ризиків для його виживання. Іншими словами, довгостроковість може бути несумісною з досягненням «екзистенційної безпеки», що означає, що єдиним способом дійсно знизити ймовірність вимирання або краху в майбутньому може бути повна відмова від ідеології лонгтермізму.

Щоб зрозуміти цей аргумент, давайте спочатку розберемося, що лонгтермісти мають на увазі під нашим «довгостроковим потенціалом» – вираз, який я досі використовував без визначення. Ми можемо розділити цю концепцію на три основні складові: трансгуманізм, космічний експансіонізм та моральний погляд, тісно пов’язаний з тим, що філософи називають «тотальним утилітаризмом».

Перша складова стосується ідеї про те, що ми повинні використовувати передові технології для реінжинірингу наших тіл і мізків, щоб створити «вищу» расу радикально вдосконалених постлюдей (яких, як не дивно, лонгтермісти відносять до категорії «людства»). Хоча Бостром, можливо, є найвідомішим трансгуманістом на сьогоднішній день, лонгтермісти уникають використання терміну «трансгуманізм», ймовірно, через його негативні асоціації. Сьюзан Левін, наприклад, вказує, що сучасний трансгуманізм бере коріння в англо-американському русі євгеніки, а такі трансгуманісти, як Джуліан Савулеску, який написав у співавторстві з Бостромом книгу «Покращення людини» (2009), буквально ратували за вживання речовин, що «підвищують мораль», таких як окситоцин, щоб уникнути екзистенційної катастрофи (яку він називає «остаточною шкодою»). Як пише Савулеску разом із колегою, «моральне вдосконалення людства є настільки невідкладною справою... що ми маємо шукати будь-які засоби для цього». Такі твердження не тільки спірні, але й для багатьох дуже тривожні, тому лонгтермісти намагаються дистанціюватися від таких ідей, але водночас продовжують відстоювати свою ідеологію.

Трансгуманізм стверджує, що існують різні «постлюдські форми буття», які набагато кращі, ніж наша нинішня людська форма. Наприклад, ми могли б генетично змінити себе, щоб отримати досконалий контроль над своїми емоціями, або отримати доступ до Інтернету через нейронні імплантати, чи можливо навіть завантажити свій розум в комп’ютер, щоб досягти «цифрового безсмертя». Як радить Орд у книзі «Прірва», подумайте про те, як здорово було б сприймати світ за допомогою ехолокації як кажани та дельфіни, або магніторецепції як руді лисиці та поштові голуби. «Такий незвіданий досвід, – пише Орд, – існує в умах набагато менш витончених, ніж наш власний. Який же досвід, що має величезну цінність, може бути доступний набагато більш досконалому розуму?» Найвигадливіше дослідження цих можливостей Бостромом можна знайти в його захоплюючому «Листі з Утопії» (2008), який зображує техно-утопічний світ, сповнений надінтелектуальних постлюдей, які відчувають стільки «задоволення», що, як пише вигадана постлюдина в листі, «ми додаємо його в чай».

Зв’язок із довгостроковістю полягає в тому, що, на думку Бострома та Орда, нездатність стати постлюдиною не дозволить нам реалізувати наш величезний та славетний потенціал, що буде екзистенційною катастрофою. Як сказав Бостром у 2012 році, «постійне позбавлення будь-якої можливості такого роду трансформаційної зміни біологічної природи людини може саме собою представляти екзистенційну катастрофу». Подібним чином, Орд стверджує, що «вічне збереження людства у його нинішньому вигляді може також призвести до розтрати нашої спадщини, до марнування більшої частини нашого потенціалу».

Другий компонент нашого потенціалу – космічний експансіонізм – пов’язаний з ідеєю, що ми повинні колонізувати якомога більшу частину нашого майбутнього світлового конуса: тобто область простору-часу, теоретично доступну для нас. На думку лонгтермістів, наш майбутній світловий конус міститиме величезну кількість придатних для експлуатації ресурсів, які вони називають «космічним запасом» негентропії (або зворотної ентропії). Один тільки Чумацький Шлях, пише Орд, має «150 000 світлових років у діаметрі, охоплюючи понад 100 мільярдів зірок, більшість з яких мають власні планети». Для реалізації довгострокового потенціалу людства, продовжує він, «необхідно лише, щоб [ми] зрештою вирушили до найближчої зірки і закріпилися там настільки, щоб створити нове процвітаюче суспільство, звідки ми могли б вирушити далі». Поширюючись «всього на шість світлових років за раз», наші нащадки-постлюди могли б зробити «майже всі зірки нашої галактики... досяжними», оскільки «кожна зіркова система, включаючи нашу власну, повинна заселити всього кілька найближчих зірок, [щоб] вся галактика [зрештою] наповнилася життям». Цей процес може бути експоненційним, що призведе до появи все більш «процвітаючих» суспільств з кожною новою секундою, коли наші нащадки стрибатимуть від зірки до зірки.

Але навіщо це потрібно? Що такого важливого в тому, щоб наповнити Всесвіт новими постлюдськими цивілізаціями? Це наштовхує нас на третій компонент: тотальний утилітаризм, який я для стислості називатиму «утилітаризмом». Хоча деякі лонгтермісти наполягають на тому, що вони не є утилітаристами, ми повинні відразу ж зазначити, що це в основному замилювання очей, щоб відвести критику, що лонгтермізм – і, у більш широкому розумінні, рух ефективного альтруїзму (ЕА), з якого виник довгостроковий підхід, – це не більше ніж утилітаризм у новій упаковці. Справа в тому, що рух ЕА глибоко утилітарний, принаймні на практиці, і дійсно, перш ніж вибрати назву, зачинателі руху, включаючи Орда, серйозно розглядали можливість назвати його «спільнотою ефективних утилітаристів».

З огляду на це, утилітаризм є етичною теорією, яка визначає наш єдиний моральний обов’язок – як збільшити загальну суму «внутрішньої цінності» у світі, підраховану з безтілесного, неупередженого, космічного погляду, так званої «точки зору Всесвіту». З цього випливає, що не має значення, як цінність – яку утилітарні гедоністи прирівнюють до задоволення – розподіляється між людьми в просторі та часі. Все, що має значення – це загальна чиста сума. Наприклад, уявіть собі, що є 1 трильйон людей, життя кожного з яких оцінюється цифрою «1», що означає, що воно ледве варте того, щоб жити. Тож загальна цінність складає 1 трильйон. Тепер розглянемо альтернативний всесвіт, у якому 1 мільярд людей мають особисті життя цінністю «999», що означає, що їхнє життя надзвичайно гарне. Це дає загальну цінність у 999 мільярдів. Оскільки 999 мільярдів – це менше за 1 трильйон, перший світ, повний життя, яке ледве варте того, щоб жити, був би морально кращим, ніж другий світ, де люди живуть дуже добре, а, отже, якби утилітарист був змушений вибирати між ними, він безумовно вибрав би перший. (Це називається «огидним висновком», який, як нещодавно стверджували лонгтермісти, такі як Орд, Макаскілл та Гривз, не слід сприймати дуже серйозно. Для них перший світ дійсно може бути кращим!)

Основні міркування тут ґрунтуються на ідеї, що люди – ви і я – є не що інше, як засіб досягнення мети. Ми самі по собі не маємо значення; ми не маємо власної цінності. Натомість, люди розуміються як «контейнери» цінності, і, отже, ми маємо значення лише в тій мірі, в якій ми «містимо» цінність, а отже робимо внесок в загальну чисту суму цінності у Всесвіті між Великим вибухом і тепловою смертю. Оскільки утилітаризм переконує нас підняти цінність, звідси випливає, що чим більше людей (контейнерів цінності), які існують з чистими позитивними сумами цінності (задоволення), тим кращим стане Всесвіт, з точки зору моралі. Одним словом: це люди існують заради підвищення цінності, а не цінність існує, аби приносити людям користь.

Ось чому лонгтермісти так одержимі підрахунками, скільки людей могло б існувати в майбутньому, якби ми колонізували космос та створили величезні комп’ютерні симуляції навколо зірок, в яких неймовірно велика кількість людей жили би щасливим життям у віртуальній реальності. Я вже згадував оцінку Бострома про 10⁵⁴ людей майбутнього, які включають в себе багато з так званих «цифрових людей», але у своєму бестселері «Суперінтелект» (2014) він називає більше число – 10⁵⁸ людей, майже всі з яких «жили б багатим і щасливим життям, взаємодіючи один з одним у віртуальних середовищах». Гривз і Макаскілл так само схвильовані цією можливістю, підраховуючи, що навіть лише в межах Чумацького Шляху зможуть існувати близько 10⁴⁵ свідомих істот, створених у комп’ютерних симуляціях.

Ось у чому полягає наш «неосяжний та славетний» потенціал: чимала кількість технологічно вдосконалених цифрових постлюдей усередині величезних комп’ютерних симуляцій, поширених по всьому нашому майбутньому світловому конусу. Саме заради цієї мети, за сценарієм Хеггстрема, політик-лонгтерміст знищив би Німеччину. Для цієї мети ми не повинні «марнувати» наші ресурси на такі речі, як подолання глобальної бідності. Саме з цією метою ми повинні розглянути питання про впровадження глобальної системи спостереження, бути готовими вести попереджувальну війну та приділяти надрозумним машинам більше уваги, ніж порятунку людей на Глобальному Півдні від руйнівних наслідків зміни клімату (в основному спричиненої Глобальною Північчю). Насправді, Бекстед навіть стверджував, що заради досягнення цієї мети ми повинні надавати перевагу життям людей у багатих країнах, а не в бідних, оскільки вплив на довгострокове майбутнє має «надзвичайну важливість», а багаті швидше за все впливатимуть на довгострокове майбутнє набагато більше, ніж бідні. Процитую уривок з докторської дисертації Бекстеда від 2013 року, яку Орд з ентузіазмом хвалить як один з найважливіших внесків у літературу лонгтермізму: «Порятунок життів у бідних країнах може мати значно менший вплив, ніж той же порятунок та покращення життя у багатих країнах. Чому? Багатші країни мають значно більше інновацій, а їхні працівники є більш економічно продуктивними. [Отже,] мені зараз здається більш правдоподібним, що за інших рівних умов врятувати життя у багатій країні значно важливіше, ніж у бідній».

Це лише вершина айсберга. Розглянемо наслідки цієї концепції «нашого потенціалу» для розвитку технологій і створення нових ризиків. Оскільки реалізація нашого потенціалу є кінцевою моральною метою людства, і оскільки наші нащадки не можуть стати постлюдьми, колонізувати космос і створити ~10⁵⁸ людей в комп’ютерних симуляціях без технологій, набагато більш просунутих, ніж ті, що існують сьогодні, нездатність розробити більше технологій сама по собі становила б екзистенційну катастрофу – різновид колапсу (схожого на те, як Ремзі нехтує своїми талантами, проводячи свої дні за грою в більярд та випивкою), що Бостром називає «досягненням плато». Дійсно, Бостром ставить цю ідею в центр свого канонічного визначення «екзистенційного ризику», яке позначає будь-яку майбутню подію, яка не дозволить людству досягти та/або підтримувати стан «технологічної зрілості», «досягнення можливостей, що забезпечують рівень економічної продуктивності та контроль над природою близький до максимально можливого». Технологічна зрілість є основою, тому що контроль над природою і підвищення економічної продуктивності до абсолютних фізичних меж нібито необхідні для створення максимальної кількості «цінностей» всередині нашого майбутнього світлового конуса.

Але замисліться на мить над тим, як людство потрапило в нинішню кліматичну та екологічну кризу. За видобутком і спалюванням корисних копалин, руйнуванням екосистем і винищенням видів стояла думка про те, що природа – це те, що потрібно контролювати, підкоряти, експлуатувати, захоплювати, грабувати, трансформувати, переналаштовувати і маніпулювати. Як пише теоретик технологій Ленгдон Віннер в своїй книжці «Автономна технологія» (1977), з часів Френсіса Бекона наш погляд на технології був «нерозривно пов’язаний з єдиною концепцією того, як використовується влада – стиль абсолютного володарювання, деспотичний односторонній контроль господаря над рабом». Він додає: «Рідко зустрічаються застереження щодо законності права людства на завоювання, захоплення і підкорення всього природного. Це його сила і його слава. Те, що в інших ситуаціях здавалося б ганебним і мерзенним наміром, тут є найвищою чеснотою. Природа є універсальною здобиччю, якою можна маніпулювати, як люди вважають за потрібне». Це саме те, що ми бачимо в розповіді Бострома про екзистенційні ризики та пов’язану з нею нормативну футурологію: природу, весь Всесвіт, наше «космічне багатство» можна грабувати, маніпулювати, трансформувати та перетворювати на «ціннісні структури, такі як розумні істоти, які живуть гідним життям» у величезних комп’ютерних симуляціях, цитуючи есе Бострома «Астрономічні відходи» (2003). Проте цей беконівський, капіталістичний погляд є однією з найважливіших причин безпрецедентної екологічної кризи, яка зараз загрожує знищити великі регіони біосфери, корінні спільноти по всьому світу і, можливо, навіть саму західну технологічну цивілізацію. Хоча інші лонгтермісти не були такими відвертими, як Бостром, існує чітка тенденція бачити світ природи так, як утилітаризм бачить людей – як засіб досягнення якоїсь абстрактної, безособової мети і нічого більше. Макаскілл та його колега, наприклад, пишуть, що рух ефективного альтруїзму, та відповідно лонгтермізм, «переважно виступає за соціальний захист, оскільки основна мета його добрих справ – це лише сприяння добробуту людства, а не, скажімо, захист біорізноманіття чи збереження природної краси заради них самих».

Так само занепокоєння викликає довгострокова вимога, що ми повинні створювати все потужніші технології, незважаючи на встановлений факт, що переважне джерело ризику для людського існування в наші дні походить саме від цих технологій. За словами Орда, «без серйозних зусиль із захисту людства є вагомі підстави вважати, що ризик буде вищим у цьому столітті та продовжить зростати з кожним століттям, коли відбуватиметься технічний прогрес». Схожим чином у 2012 році Бостром визнав, що «велика частина екзистенційного ризику в передбачуваному майбутньому складатиметься з антропогенних екзистенційних ризиків – тобто тих, що виникають внаслідок діяльності людини. Зокрема, більшість найнебезпечніших екзистенційних ризиків, здається, пов’язані з потенційними майбутніми технологічними проривами, які можуть радикально розширити нашу здатність маніпулювати зовнішнім світом або власною біологією. У міру зростання могутності людства розширюватимуться масштаби її потенційних наслідків – навмисних і ненавмисних, позитивних і негативних». З цієї точки зору, існує тільки один шлях вперед – більший технологічний розвиток – навіть якщо це найнебезпечніший напрям у майбутнє. Наскільки це має сенс? Звичайно, якщо ми хочемо підвищити наші шанси на виживання, ми маємо протистояти розвитку нових небезпечних технологій подвійного призначення. Якщо більше технологій означає більше ризику – як показує історія та стверджують технологічні прогнози, – то, можливо, єдиний спосіб досягти стану «екзистенційної безпеки» – це уповільнити або повністю зупинити подальші технологічні інновації.

Але у лонгтермістів є відповідь на це питання: так звана «теза про ціннісну нейтральність». Згідно неї технології – це морально нейтральне явище, тобто «просто знаряддя». Ця думка найбільш яскраво втілена у слогані Національної стрілецької асоціації США «Зброя не вбиває людей, люди вбивають людей», який передає ідею про те, що наслідки технологій, хороші чи погані, корисні чи шкідливі, повністю визначаються користувачами, а не артефактами. Як сказав Бостром у 2002 році, «ми не повинні звинувачувати цивілізацію чи технології в тому, що вони створюють великі екзистенційні ризики», додавши, що «через те, як ми визначили екзистенційні ризики, невдача у розвитку технологічної цивілізації означала б, що ми стали жертвами екзистенційної катастрофи».

Орд також стверджує, що «проблема полягає не так у надлишку технологій, як у нестачі мудрості», а потім цитує книгу Карла Сагана «Блідо-блакитна крапка» (1994): «Багато небезпек, з якими ми стикаємося, справді виникають через науку і техніку, але, що важливіше, тому що ми стали могутніми, не ставши достатньо мудрими». Інакше кажучи, ми самі винні в тому, що не стали розумнішими, мудрішими та етичнішими – низка недоліків, які за перекрученою логікою багатьох лонгтермістів, можна виправити шляхом технологічного реінжинірингу наших когнітивних систем та моральних установок. Все, з цієї точки зору, є інженерною проблемою, а отже всі проблеми виникають через те, що технологій замало, а не надто багато.

Тож тепер ми бачимо, чому довгостроковий підхід може бути руйнівним. Мало того, що «фанатичний» акцент на реалізації нашого довгострокового потенціалу може змусити людей нехтувати «неекзистенційним ризиком» зміни клімату, а також ставити багатих вище за бідних і, можливо, навіть «виправдовувати» так зване превентивне насильство та жорстокість, що коять заради «вищого космічного блага». Ба більше, такий підхід містить у собі ті самі тенденції – беконіанство, капіталізм і ціннісну нейтральність, – які підштовхнули людство до краю загибелі. Лонгтермізм закликає нас максимізувати економічну продуктивність, наш контроль над природою, нашу присутність у Всесвіті, кількість (симульованих) людей, що існуватимуть у майбутньому, загальну кількість безособових «цінностей» тощо. Але щоб досягти максимуму, ми повинні розвивати все більш потужні – і небезпечні – технології; натомість нездатність зробити це буде екзистенційною катастрофою. Однак не варто турбуватися, бо технології не ведуть до погіршення нашого становища, і той факт, що більшість ризиків мають техногенне походження, не є причиною для того щоб зупинити прогрес. Швидше, проблема лежить в нас самих, що означає лише те, що ми повинні створити ще більше технологій, щоб перетворити себе на когнітивно та морально вдосконалених постлюдей.

Це шлях до катастрофи. Створення нової раси «мудрих та відповідальних» постлюдей неправдоподібне, і якщо передові технології розвиватимуться нинішніми темпами, то глобальна катастрофа, швидше за все, стане лише питанням часу. Так, нам знадобляться передові технології, якщо ми хочемо покинути Землю до того, як її буде стерилізовано Сонцем через мільярд років. Але вирішальний факт, який упускають лонгтермісти, полягає в тому, що технології з набагато більшою ймовірністю призведуть до нашого вимирання ще до цієї події у віддаленому майбутньому, ніж урятують нас від нього. Якщо ви, як і я, цінуєте подальше виживання та процвітання людства, ви повинні дбати про довгострокову перспективу, але відкидати ідеологію лонгтермізму, яка не тільки небезпечна та помилкова, а й може сприяти виникненню та посиленню ризиків, які вже сьогодні є загрозою для кожної людини на планеті.

Стаття вперше була опублікована англійською мовою під заголовком «Why longtermism is the world’s most dangerous secular credo» в журналі Aeon 19 жовтня 2021 р.

Переклали студенти Факультету іноземної філології Національного університету імені М.П. Драгоманова.