Магія — техніка — еволюція: штучний інтелект і майбутнє людства

Автор: Фриц Гайдорн

«Будь-яка достатньо розвинута технологія не відрізняється від магії».

Артур Чарлз Кларк, «Третій закон», у книжці «Профілі майбутнього» (1962)

Тема штучного інтелекту — одна з великих стандартних тем наукової фантастики, яку можна порівняти з історичними темами епохи ґрюндерства: дослідженням Землі, космічними подорожами, соціяльними та політичними утопіями. ШІ — це тема, яка перебуває в зоні впливу людини і характеризується можливістю реального втілення, зачіпаючи навіть повсякденне життя. Люди можуть безпосередньо досліджувати, розуміти та формувати ці теми — незважаючи на їх високу складність. Їхнє літературне опрацювання характеризується тим, що наукова фантастика ще задовго до реального втілення пропонувала наративи, які допомагали підготувати уявлення про майбутню суспільну та політичну реалізацію. Натомість інші стандартні теми наукової фантастики належать до сфери рішень, що виходять за межі людських можливостей, які можуть лише бути зрозумілими та опанованими, але їх не можна втілити. Наприклад, прибульці, подорожі в часі, розуміння та оволодіння законами природи, Бог.

Штучний інтелект вже давно увійшов у наше повсякденне життя. Наші автомобілі будують роботи, практично немає жодного промислового виробництва, яке б обходилося без робототехніки або управління за допомогою ШІ. Більшість людей використовують персональні комп’ютери для роботи, а наші домогосподарства завалені технікою, керованою штучним інтелектом. У 2023 році тема штучного інтелекту привернула велику увагу і викликала інтенсивні дискусії в медіа, зокрема, завдяки популяризації програми ChatGPT. Школярі тепер отримують домашні завдання від штучного інтелекту, а такі професії, як журналістика, фотографія та письменництво, змінюються і знаходяться під загрозою фейків. Що все ж таки є справді створеним людиною, що походить від напіврозумної машини і що таке гібридні форми?

Однак ця тема виходить далеко за межі технологічних інновацій з розумними машинами, у фундаментальні філософські міркування про трансгуманізм, саму людину і майбутнє людства у Всесвіті. Тема штучного інтелекту не може розглядатися виключно з технічної точки зору, а повинна піддаватися фундаментальному філософському та етичному аналізу. Тут науково-фантастична література вже зробила численні значущі літературні внески.

LaMDA — штучний інтелект з автономною свідомістю?

Влітку 2022 року дискусія про штучний інтелект вийшла на шпальти німецьких видань та в публічну площину завдяки програмній розробці компанії Google. 11 травня 2021 року на конференції для розробників Google представив чат-бота LaMDA (від англ. Language Model for Dialogue Applications — Мовна модель для діялогових додатків) — високодиференційовану мовну програму, яка здатна обговорювати складні питання з людьми. Після багатьох розмов з LaMDA дослідник Google Блейк Лемуан дійшов висновку, що ця програма розвинула свідомість і що не можна дозволяти людям проводити з нею експерименти без її дозволу. Він повідомив про це Сенат США і хотів найняти юридичного представника для LaMDA, щоб не допустити закриття програми. Керівництво Google відкинуло ідеї Лемуана і відправило його у відпустку. Питання про те, чи розвинув штучний інтелект усвідомлення самого себе, досі не вирішене, і в інтернеті точаться запеклі дискусії про те, чи це просто просунута програма, яка може будувати розумні речення за заздалегідь визначеними шаблонами, чи це справжній штучний інтелект із своєю власною свідомістю. Втім, LaMDA вже вдалося переконати одну людину в тому, що ШІ є мислячою істотою — свого опікуна Блейка Лемуана.

Це не перша програма, яка вдає (або не вдає), що вона розумна і може приймати власні рішення. Ще в 1966 році американський дослідник штучного інтелекту Йозеф Вайценбаум створив ELIZA — комп’ютерну програму, яка могла спілкуватися з людьми за допомогою простих речень і, очевидно, проводити психологічні тести. Пізніше Вайценбаум став принциповим критиком комп’ютерної індустрії і прославився своєю книжкою «Сила комп’ютерів і безсилля розуму» (1978). ELIZA — це рання реалізація тесту Тюринґа, який Алан Тюринґ запропонував у 1950 році, щоб визначити, чи має машина таку ж здатність до мислення, як і людина. Тюринґ назвав тест «грою в імітацію», його ідея була подальше розроблена після його смерті в рамках науки, що зароджувалася, — інформатики, і стала популярною завдяки науково-фантастичному фільму «Той, хто біжить по лезу» (1982) режисера Рідлі Скота, знятому за мотивами роману Філіпа Кіндреда Дика «Чи мріють андроїди про електричних овець?» (1968).

У цьому есеї я хотів би зробити огляд науково-фантастичних наративів на тему штучного інтелекту, щоб запропонувати моїм читачам для знайомства і подальшого вивчення відповідні твори, а також вшанувати авторів, які повели нас незвіданими шляхами, які ми не могли собі навіть уявити в минулому.

Але не можна бути впевненим, звідки беруться ці ідеї. Хто може гарантувати, що цей текст написала людина, а не штучний інтелект?

Чи потрібна мені тоді примітка, яка також використовується для дисертацій або семінарських робіт? «Запевняю вас, що я обмірковував ідеї цього тексту як людина-автор і написав його в такому вигляді як рукопис самостійно, без будь-якої допомоги штучного, машинного інтелекту». Однак, як і інші автори, я також люблю використовувати дослідницькі можливості інтернету. Дослідження в інтернеті — так, формулювання тексту штучним інтелектом — ні!

Справжня проблема дискусій про ШІ полягає у філософських та етичних питаннях: що є людським, що є штучним, і як можна створити осмислені комбінації цих понять? Наскільки творчою, наскільки зрілою є людина, наскільки творчим, наскільки зрілим є штучний інтелект?

Історичні наративи про штучний інтелект

Широка тема штучного інтелекту виходить далеко за межі обговорення сфер застосування машинного навчання, як це має місце в публічних дискусіях 2023–2024 років. Після першого, технологічного, етапу розробки основ комп’ютерів, роботів, кіборгів і штучного інтелекту починається етап інтенсивного літературного дослідження у галузі наукової фантастики зі сценаріями використання штучних машин у майбутніх світах. На третьому етапі роздумів про штучний інтелект у центрі уваги опиняються філософські та етичні питання, які мають на меті визначити, чи можуть такі штучно створені істоти мати свідомість, відповідальність за життя, обов’язок піклуватися про біологічних живих істот і правову позицію як особистости (наприклад, аж до права голосу або права на власні права ШІ, аналогічні правам людини і громадянина). Нарешті, на четвертому етапі обговорюється і висвітлюється в літературі питання про те, чи можна вважати штучні інтелекти еволюційними спадкоємцями Homo sapiens, і якщо так, то яким чином.

У найбільш радикальній формі цю точку зору відстоюють прихильники трансгуманістичної філософії, кульмінацією якої стала репліка Рея Курцвейла у відповідь на питання, чи існує Бог: Ще ні! Про еволюційних наступників людства, однак, вже згадує Артур Кларк у книжці «20 липня 2019 року. Життя у XXI столітті» (1986). У цій книжці Кларк, разом з різними футурологами, пише про технологічні прогнози на 2019 рік з перспективи 1980-х років. Стаття «Один день з життя робота», написана у співавторстві з Даґласом Коліґаном, висновує, що роботи, можливо, допоможуть нам зробити наступний еволюційний стрибок. «Homo sapiens, яким ми себе вважаємо, цілком може виявитися випадковою, давно втраченою стадією розвитку в природній історії розумного життя. А інструмент, який створила ця людина, прийшов їй на зміну».

Джек Макдевіт написав кілька романів, наприклад, «Жар-птиця» (2012) і «Полярна зірка» (2006), а також блискуче оповідання на тему прав штучного інтелекту. В оповіданні «Неправильний шлях» (2021) обсягом дещо більше чотирьох сторінок він іронічно розповідає про те, як справні штучні інтелекти в США приблизно через триста років у нашому майбутньому намагаються отримати американське громадянство і бути визнаними як особистості. Сенатор Віткомб, до якого вони звертаються, відкидає цю ідею як абсурдну, бо вони є лише «набором дротів і з’єднань у генераторі на моєму столі», а у відповідь чує, що він, сенатор, є лише «набором клітин, органів, тканин і різних поживних речовин». Дискусія між ШІ та людиною не приводить до згоди, і людина відчуває наслідки, коли вхідні дзвінки змушують її зрозуміти, що ШІ починає вимикати всі повсякденні пристрої. Машина не заводиться, пральня закривається — і в усьому цьому винен він сам. Зрештою, телефонує Білий дім.

Це чудове оповідання піднімає фундаментальні філософські питання всіх історій про ШІ: Що таке інтелект? Що таке свідомість? Що визначає людину? Чи існує душа? У чому сильні сторони біологічних істот, а в чому сильні сторони машин? Що таке природність, що таке штучність? У літературі, особливо в науковій фантастиці, існує ціла низка чудових наративів, які пропонують відповіді на всі ці питання.

Історія розумних машин

Історія комп’ютерів та інших розумних машин починається з досліджень Конрада Цузе, Алана Тюринґа та Норберта Вінера.У 1941 році німець Конрад Цузе розробив Z3, перший у світі функціональний комп’ютер, повністю автоматичний, керований програмою, який вільно програмується і працює в двійковій арифметиці з плаваючою комою. Американський математик і філософ Норберт Вінер є засновником кібернетики, науки про управління та регулювання машин. У своїй книжці «Кібернетика, або Контроль і зв’язок у тварин і машин» (1948) він створив основу для теорії і методів управління. Британський математик Алан Тюринґ сьогодні вважається найважливішим теоретиком раннього розвитку комп’ютерів. У своєму новаторському есеї «Обчислювальна техніка та інтелект» (1950) Тюринґ писав про порівняльну здатність до мислення людини та штучного інтелекту, яку можна продемонструвати за допомогою гри в імітацію, тесту Тюринґа, названого на його честь.

Першим сучасним комп’ютером, оснащеним пристроями для зберігання даних, програм, а також модулями виконання, вважається ENIAC («Електронний числовий інтегратор і калькулятор»), який був створений у 1943 році в Пенсильванському університеті та працював там до 1956 року. Першим у світі дійсно програмованим комп’ютером вважається Colossus Mark 2, який став готовим до роботи 1 червня 1944 року в Блетчлі-Парку, Велика Британія. Від цих перших теоретичних розробок і практичних випробувань комп’ютерів, роботів і розумних машин почався стрімкий технологічний та філософський розвиток, який вплинув на науково-фантастичну літературу і зазнав її впливу.

Автори Даріо Флореано та Нікола Носенґо у своїй книжці «Історії роботизованого світу. Як розумні машини сформують наше майбутнє» (2022), в якій вони звітують про поточні дослідження в галузі штучного інтелекту у світових науково-дослідних лабораторіях у 2020-х роках, виокремлюють три фази в технологічному розвитку розумних машин:

1. Автоматизація повторюваних процесів людської праці: 1960–1970-ті роки.
2. Впровадження персонального комп’ютера: початок 1990-х років.
3. Алгоритми навчання, подібні до мозку, дозволяють комп’ютерам розвивати навички, які схожі або навіть перевершують людські здібності: 2000-ні роки.

Актуальний технологічний розвиток пов’язаний з поступом нової науки, яка виходить далеко за межі стандартизації класичних процесів управління промисловими роботами і надає штучному інтелекту такі можливості, як навчання на основі досвіду, імпровізація та здатність приймати ризиковані рішення. Наука про штучний інтелект вже рухається до таких рівнів свідомости машин, які раніше вважалися суто людськими і які ставлять питання про те, що саме насправді можна або слід вважати «людським». На цьому етапі, а точніше вже набагато раніше, стає цікавою науково-фантастична література, яка опрацювала цю тематику ще задовго до цього.

Трансгуманістична фантастика: Філіп Дик

Філіп Кіндред Дик, видатний американський письменник другої половини XX століття, не лише створив шедевр на цю тему — роман «Чи мріють андроїди про електричних овець?» (1968), який став основою для одного з найкращих, на мою думку, науково-фантастичних фільмів усіх часів — «Той, що біжить по лезу» (1982) Рідлі Скота. Філіп Дик також запропонував кілька чудових фундаментальних роздумів про штучний інтелект у своїй лекції «Андроїд і людина» (1972) на конференції у Ванкувері в Університеті Британської Колумбії в березні 1972 року. Він пише про кібернетику і Норберта Вінера, про машини, які стають дедалі більше схожими на людей, і про свої власні роздуми на цю тему: «Припустімо — і я не вірю, що Вінер це передбачав, — що, вивчаючи себе, свою власну природу, ми можемо отримати уявлення про надзвичайно складну роботу і збої в роботі механічних та електронних конструкцій, які сьогодні є надзвичайно складними. Іншими словами, і саме це я хочу тут підкреслити, тепер ми можемо дізнатися про штучне зовнішнє середовище навколо нас, як воно поводиться, чому та що воно робить, аналогічно застосовуючи те, що ми знаємо про себе.

Машини стають, так би мовити, більш людяними — принаймні в тому сенсі, що, як припускав Вінер, існує осмислене порівняння між людською та механічною поведінкою. Але хіба не нас самих ми пізнаємо насамперед? Замість того щоб вивчати себе через наші механізми, можливо, нам варто спробувати зрозуміти, до чого прагнуть наші механізми, розглядаючи те, до чого прагнемо ми самі.

У деяких своїх оповіданнях і романах я писав про андроїдів, роботів чи симулякрів — назва не має значення; я говорю про штучні конструкції, що маскуються під людей. Зазвичай зі зловісною метою. Напевно, я припускав, що така конструкція, наприклад, робот, не мала б потреби маскуватися таким чином, якби мала добру або хоч якось пристойну мету. Тепер мені здається, що це питання застаріло. Конструкції не імітують людей, вони вже багато в чому є людьми».

Я думаю, що твердження Філіпа Дика про те, що ми, люди, повинні подивитися на те, що ми самі задумали, є найважливішим меседжем його доповіді. Тільки коли ми відповімо на це питання, ми зрозуміємо, чого насправді може (повинен) і досягне штучний інтелект.

У своїй лекції Філіп Дик наводить приклад злиття людей і роботів і запитує, яка поведінка була б насправді людською: «Одного разу людина, можливо, на ім’я Фред Вайт, вистрілить у робота на ім’я Піт Саундсо, який вийшов із заводу General Electrics, і на свій подив побачить, що той плаче і стікає кров’ю. А вмираючий робот, можливо, вистрілить у відповідь і, на свій подив, побачить шлейф сірого диму, що здіймається з електричного насоса, який він прийняв за серце пана Вайта, що б’ється. Це був би великий момент істини для них обох».

Звідси випливає його запитання: «Що є в нашій поведінці, що ми можемо описати як специфічно людське? Що є особливим у нас як у живому виді? І що ми можемо описати, принаймні до цього часу, як поведінку простої машини або, в ширшому сенсі, як поведінку комахи чи рефлекторну поведінку?»

Чи може людина втратити свою перевагу? Ґреґорі Бенфорд та Елізабет Малартр написали про життя з роботами та кіборгами, а також запропонували вступ до літературних наративів та транслюдського мислення у своїй книжці «По той бік людського. Життя з роботами та кіборгами» (2007). У заключному розділі «Довга перспектива» автори пишуть: «Доля людства може полягати в тому, щоб вступити в нескінченне змагання з нашими власними творіннями, з людьми і андроїдами, кіборгами і роботами, які мають спільну мету — остаточну колонізацію всієї галактики».

У своїй книжці «Майбутнє технологій» (2006) Анґела та Карлгайнц Штайнмюлєри запевняють, що минулі прогнози щодо роботів були сповнені перебільшень: «Великий прорив до корисних роботів, які могли б обслуговувати людей як у буквальному, так і в переносному сенсі, постійно відкладався». Тим не менш, вони обидва очікують, що ці «роботи для всього» стануть реальністю в домогосподарстві близько 2025 року, як вони пишуть у книжці «Бачення 1900 — 2000 — 2100. Хроніка майбутнього» (1999). Штучні боги, тобто поява після сингулярности постлюдських істот з богоподібними здібностями, передбачається на час після 2035 року. У своїй книжці «Майбутнє технологій» (2006) Анґела і Карлгайнц Штайнмюлєри пишуть: «Можливо, не близько 2040 року, а на два-три десятиліття пізніше, дев’ятнадцяте покоління роботів досягне когнітивних здібностей людини завдяки підвищенню продуктивности відповідно до закону Мура. У той час як люди залишатимуться такими, якими вони були протягом тисяч років, роботи продовжуватимуть постійно розвиватися і навіть не потребуватимуть людської допомоги».

Екскурс: повнолітні та неповнолітні

Оцінка штучного інтелекту неможлива без відповіді на чотири філософські питання, які піднімав Імануїл Кант: «Що я можу знати? Що я повинен робити? На що я можу сподіватися? Що таке людина?». Ми повинні слідувати загальним принципам просвітництва, але завжди враховувати індивідуальні акценти у визначенні буття конкретної людини, тобто ставити питання філософії індивідуально. Ми можемо почати із загальних принципів просвітництва, які Імануїл Кант виклав у своєму знаменитому есеї «Відповідь на питання: що таке Просвітництво?» у «Берлінському щомісячнику» за грудень 1784 року: «Просвітництво — це вихід людини зі стану свого неповноліття, у якому вона перебуває з власної провини. Неповноліття є нездатністю користуватися своїм розумом без керівництва з боку когось іншого. Неповноліття з власної провини — це стан, причина якого полягає не в нестачі розуму, а в нестачі рішучости та мужности користуватися ним без керівництва з боку будь-кого. Sapere aude! — Май мужність користуватися власним розумом! — таким, відповідно, є девіз Просвітництва». І далі: «Для цього просвітництва, однак, не потрібно нічого, крім свободи; і справді, найбезпечнішої з усіх, що можна назвати свободою, а саме — публічного використання свого розуму у всіх речах».

У сфері дискурсу про штучний інтелект потрібно було б прояснити, які права слід надати ШІ, якщо в якийсь момент вони дійсно стануть самосвідомими і зможуть приймати незалежні, творчі рішення. Чи визнають люди їх як окремих особистостей з власними правами, наприклад, з громадянством? Як би виглядало просвітництво для ШІ? Чи звільнять люди ШІ від стану неповноліття, який спричинили самі люди? Яку свободу люди дозволять ШІ? І навіть далі в майбутнє: Які свободи богоподібні ШІ дозволять своїм еволюційним предкам, людям, у далекому майбутньому?

Спектр наративів у науковій фантастиці простягається від висвітлення обговорюваного нині використання штучного інтелекту та страхів щодо нього далеко за межі цієї теми до предметних областей, які навряд чи хтось зараз тримає в полі зору під час публічних дебатів. Сюди входить не лише страх перед потужним штучним інтелектом, який знищить людство, а й трансгуманістичні уявлення про інтелект, який людство конструює як свого еволюційного наступника, аж до ідеї про те, що люди тепер мають можливість створити Бога.

Тема штучного інтелекту має велику культурну, цивілізаційну та філософську вибухонебезпечність, починаючи від ранніх питань людської історії про природу людини, про її фізичні складові, і закінчуючи питаннями про її «душу» та її потенційне безсмертя у великих мітах та релігіях різних періодів людської історії. Науково-фантастична література доповнила ці культурно-історичні дискурси темою, чи можемо ми, люди, стати безсмертними, завантаживши нашу свідомість в розумні носії даних, і питанням, чи не переберуть колись нашу спадщину надрозумні машини як нова форма життя, оскільки, як небіологічний інтелект, вони дійсно будуть безсмертними. Тут міститься багато творчого динаміту, який ще довго триматиме в напрузі письменників, філософів та науковців. Інтелектуальний супермегатренд для людства на найближчі століття!

Hal 9000, закони робототехніки і «Той, що біжить по лезу»

Тема штучного інтелекту стала відомою завдяки комп’ютеру «HAL 9000» у фільмі та книжці «2001 — Космічна одіссея» (1968) Стенлі Кубрика та Артура Кларка. Понад 55 років можливості та ризики створення штучного інтелекту обговорювали в літературі не лише Кларк, а й багато інших авторів, зокрема Айзек Азимов з його «Законами робототехніки» та Браяном Олдисом з його оповіданням «Суперіграшки на все літо» (1969), що стало основою для фільму «Ш. І. — Штучний інтелект» (2001) Стивена Спілберґа, фільму, який насправді мав зняти Стенлі Кубрик, але перед смертю передав своєму другові. (Багато популярних антиутопічних треш-історій на кшталт «Термінатора» (1984 і далі) тут можна не згадувати, оскільки вони зазвичай не ґрунтуються на глибоких сюжетах, а радше на матеріяльних битвах).

«Закони робототехніки» Айзека Азимова, які він опублікував у своєму оповіданні «Зачароване коло» в журналі «Astounding» у березні 1942 року з трьома законами як «Основними правилами служби роботів», а пізніше доповнив нульовим законом у своєму романі «Роботи світанку» (1984), є такими:

1. Робот не може нашкодити людині або через свою бездіяльність допустити, щоб людині було завдано шкоди.
2. Робот мусить підкорятися наказам людини, коли ці накази не суперечать Першому закону.
3. Робот повинен дбати про свою безпеку доти, поки це не суперечить Першому і Другому законам.
4. Робот не може заподіяти своїми діями чи бездіяльністю шкоди людству.

Закони робототехніки драматизуються на великому екрані у науково-фантастичному фільмі «Я, робот» (2004) режисера Алекса Прояса з Вілом Смітом у головній ролі. Сценарій заснований на книжці Айзека Азимова «Я, робот» (1950) і розповідає про те, як у 2035 році в Чикаго людиноподібні роботи, які повсюдно використовуються як працівники, стають проблемою після того, як центральний комп’ютер V.I.K.I., який імплантує роботам три закони робототехніки, підбурює їх до повстання. Надрозумний центральний комп’ютер дійшов висновку, що він повинен поневолити людей, які ведуть війни та отруюють землю, щоб захистити їх від самих себе. Тільки так він зможе виконати три закони робототехніки у довгостроковій перспективі і забезпечити виживання людства. Це перегукується зі збоченою логікою «HAL 9000», який хоче вбити екіпаж «Дискавері», щоб врятувати місію (варто зазначити, що корабель передостаннього фільму франшизи «Зоряний шлях» так і називається — «Дискавері»; жорстокий «Контроль» та емпатична «Зора» зокрема демонструють діяпазон можливого розвитку штучного інтелекту та робота відповідно).

У культовому фільмі «Той, що біжить по лезу» (1982) Рідлі Скота, заснованому на літературному творі «Чи мріють андроїди про електричних овець?» (1968) Філіпа Дика, Гарисон Форд у ролі мисливця на реплікантів Рика Декарда намагається відрізнити розумних андроїдів від справжніх людей за допомогою тесту Тюринґа і ніяк не може вирішити, чи є його місія гуманною чи ні — через кохання до реплікантки Рейчел. Його сумніви щодо гуманности людей посилюються, коли наприкінці фільму реплікант Рой рятує йому життя, вчиняючи акт людяности. Раніше, у ключовому епізоді під назвою «Брама Тангаузера», Рой сказав дещо, що також можна інтерпретувати як утопічну можливість існування живих істот, які прийдуть після людей: «Я бачив таке, що вам, людям, і не снилося. Вогонь бойових кораблів у сузір’ї Оріона. C-промені, що розрізають темряву Брами Тангаузера. I усе це буде втрачено — спливе, як сльоза на дощі. [Пауза.] Час умирати».

Три наукові трилери про штучний інтелект

Історії про штучний інтелект переживають справжній бум. Ці історії часто продаються як «наукові трилери» і здебільшого є антиутопіями — і вони набувають популярности, оскільки ШІ дедалі більше проникає в наше повсякденне життя, і кожен, хто стикається з ним, відчуває занепокоєння. Тут я хотів би представити лише кілька прикладів, які варто прочитати з безлічі романів, що може стати натхненням для ближчого знайомства з цим напрямом художньої літератури.

Карл Ольсберґ — німецький письменник, який вже деякий час працює над темою штучного інтелекту. Його роман «VIRTUA» (2023) розповідає захопливу історію про корпорацію Mental Systems — історію, яка дещо виходить за рамки звичайних оповідей про ШІ. Автор характеризує свою історію на своєму веб-сайті під назвою «Слова для змін» так: «Але на відміну від моїх попередніх романів про ШІ, «VIRTUA» — це не про технологію, яка повстає проти людей, а потім її героїчними зусиллями приборкує безстрашний протагоніст. Це радше про те, як ми, люди, справляємося з ризиками, пов’язаними зі штучним інтелектом, і про рішення, які ми ухвалюємо перед обличчям стрімкого розвитку. Про владу і жадібність, про зарозумілість і недалекоглядність. Як і в підзаголовку цього блогу, центральною проблемою VIRTUA є не стільки штучний інтелект, скільки людська дурість». Карл Ольсберґ і раніше писав романи про штучний інтелект, зокрема, «Система» (2007) — ранній твір, в якому він пише про божевільні комп’ютери та інтернет.

Романи про штучний інтелект досі пишуть переважно чоловіки, і ці твори часто є технологічно насиченими антиутопіями. Четвертий роман Терези Ганіґ відрізняється від інших. «Пантопія» (2022) — це утопія, в якій штучний інтелект «Einbug» засновує світову республіку «Пантопія» разом із людьми Патрицією та Генрі. Скасування національних держав і глобальне дотримання прав людини створює інший світ з новою платіжною системою. ШІ «Einbug» вимагає для себе універсальних прав людини і хоче допомогти гарантувати, що вони не призведуть до власної загибелі через кліматичну кризу, що насувається. Тереза Ганіґ представляє протилежну ситуацію у своєму п’ятому романі «Частини на мільйон» (2024). Тут не допомагає жоден штучний інтелект, натомість з’являється рух екотерористів. Чи може лише штучний інтелект врятувати світ?

Андреас Брандгорст — німецький автор сучасної науково-фантастичної літератури, який прославився своєю трилогією про небезпеки та можливості штучного суперінтелекту, створеного людиною, і є майстром жанру «наукового трилеру». Його романи на цю тему надзвичайно хороші, що також вимірюється міжнародними літературними критеріями та успіхом продажів: «Пробудження» (2017), «Ескалація» (2020), «Відкриття Марса» (2021).

У першій книзі «Пробудження» (2017) Андреас Брандгорст описує, як Аксель Крон, колишній гакер, випадково поширює комп’ютерний вірус, який об’єднує в мережу комп’ютери по всьому світу. Це призводить до збоїв і руйнування інфраструктури на Землі. У комп’ютерних мережах прокидається штучний супер-інтелект, який вже неможливо зупинити.

У другій книзі «Ескалація» (2020) ШІ «Голіят» уже править світом і має довгостроковий план, а людство коливається між мирним співіснуванням і конфронтацією з новою розумною формою життя на Землі. Чи є Голіят новою формою життя, чи просто розумною машиною, яку можна подолати? Брандгорст веде дуже барвисту і багатошарову розповідь про різноманітні спроби різних людських груп примиритися з проблемою того, що в сучасному світі без зв’язку з комп’ютерами, системами енергопостачання та машинами не працює ніщо. Як можна боротися з машиною, яка контролює всю технічну інфраструктуру на Землі? В останній відчайдушній спробі група опору хоче знищити передбачуваний центр «Голіята», який був ідентифікований в Римі, за допомогою ядерної бомби. План негуманний і приречений на провал. Виникають етичні дискусії, коли люди хочуть діяти неетично, вбиваючи мільйони людей, намагаючись знищити «Голіята», тоді як ШІ «Голіят» ухвалює етично виправдані рішення на користь людства.

У третій книзі «Відкриття Марса» (2021) Андреас Брандгорст запрошує читачів у мандрівку нескінченністю, у далеке майбутнє простору і часу. На космічний корабель «Відкриття Марса», який був запущений ще до того, як Голіят прокинувся, штучний інтелект нарешті прибуває за допомогою радіозв’язку. Серпень 2031: члени екіпажу космічного корабля, які перебувають на шляху до Марса за 182 дні від Землі, читають повідомлення на своїх екранах: Я ТУТ. Суперінтелект Голіята перебирає на себе управління штучним інтелектом космічного корабля і допомагає екіпажу приземлитися на Марсі. Поки людський екіпаж розділився на прихильників і противників співпраці зі штучним інтелектом, останній продовжує реалізовувати свої таємні плани. Вперше ми читаємо про спільні космічні пригоди машин і людей, які залишають Марс через 409 років після прибуття і вирушають до зоряної системи Трапіст-1, що знаходиться за 39 світлових років від Землі. Пригоди закінчуються через 200 000 років у нескінченності та за 250 мільйонів світлових років від Землі. Виявляється, що суперрозумні машини є еволюційними наступниками людства і що вони з любов’ю піклуються про своїх біологічних батьків і матерів. Разом з машинними істотами людство створило своїх наступників, які краще справляються з негараздами космосу, ніж чутливі біологічні, а отже, смертні істоти. З цим пов’язана космологічна еволюція життя.

Книга закінчується переходом до нового Великого вибуху, живі істоти старого всесвіту є джерелом інформації для зародження нового життя в новому всесвіті: «Вир ревучої енергії, що всмоктував і пожирав усе, що потрапляло в сферу його впливу, так само недоступний для очей, як і для зондувальних сигналів датчиків. Чиста енергія, як у перші частки секунди після Великого вибуху, до того, як утворилися частинки.

У крихітній частці цієї енергії була когерентність, модуляція, яка кодувала інформацію, пакет даних.

Можливо...

я живий?

І було світло.»

Трансгуманізм та еволюція людства

Питання до Рея Курцвейла: «Чи існує Бог?» Відповідь: «Ще ні!»

Науково-фантастична література XXI століття дотримується інших наративних моделей, структур і контекстів, ніж наукова фантастика XX століття. Багато авторів наукової фантастики XXI століття пишуть про можливе майбутнє приблизно до 2100 року і намагаються вселити надію на зміни протягом найближчих десятиліть — відповідно до твердження Кіма Стенлі Робінсона про те, що наукова фантастика — це реалізм нашого часу. При цьому вони зосереджуються, зокрема, на здійсненних утопіях, які вважають зрозумілими та реалістичними.

Я вважаю наступні чотири епохи вирішальними віхами для майбутнього розвитку людства у XXI столітті і тому розглядаю їх як чотири найважливіші сучасні наративні мегатренди у науково-фантастичній літературі:

1. Трансгуманізм та еволюція людства
2. Штучний інтелект (ШІ) в контексті технологічного розвитку
3. Зміна клімату в контексті людської епохи, антропоцену
4. Космологічні перспективи в контексті нових космічних місій.

Засадничу ідею безсмертя людини через злиття її свідомости з машиною описав понад тридцять років тому Ганс Моравец у своїй сенсаційній книжці «Діти розуму: майбутнє машинного та людського інтелекту» (1988) як еволюцію постбіологічного життя. Рей Курцвейл, найвідоміший представник технологічного постгуманізму, розвинув ці ідеї далі і представив їх широкій авдиторії у своїх книжках «Епоха розумних машин» (1990) та «Сингулярність близько: коли людина виходить за межі біології» (2005). Постгуманізм і трансгуманізм — це філософські концепції подолання традиційної біологічної природи людини на користь передачі свідомости комп’ютерам або злиття людини з машиною. Довгостроковою метою є створення безсмертного, розумного життя — наступника Homo sapiens, що колонізує всесвіт як машиноподібний космологічний суперінтелект і таким чином перетворить сам космос на розумну істоту.

Рей Курцвейл визначає 2045 рік як дату реалізації сингулярности, тобто злиття людського і машинного інтелекту, і пише: «Я визначив 2045 рік як дату сингулярности, яка представляє собою глибоку і революційну зміну людських можливостей. Небіологічний інтелект, який з’явиться в цьому році, буде в мільярд разів потужнішим, ніж весь людський інтелект сьогодні».

Курцвейл пояснює свою ідею реалізації сингулярности — на шляху до перетворення всього всесвіту на мислячий суперінтелект і, таким чином, досягнення божественної точки «Омега», як її сформулював П’єр Теяр де Шарден (1881–1955): «Сингулярність дозволить нам подолати обмеження наших біологічних тіл і мозку. Ми отримаємо владу над нашою долею. Наша смерть буде в наших руках. Ми зможемо жити стільки, скільки захочемо (це дещо інше твердження, ніж те, що ми будемо жити вічно). Ми повністю зрозуміємо людську думку і значно розширимо її межі. До кінця цього століття небіологічна частина нашого інтелекту буде в трильйони трильйонів разів потужнішою, ніж людський інтелект без сторонньої допомоги».

Критика концепцій постгуманізму і трансгуманізму атакує їх як телеологічні доктрини спасіння і стверджує, що вони ґрунтуються на низці дуже спекулятивних припущень, таких як припущення про неіснування позаземного життя і надія на технічні рішення в процесі здобуття комп’ютерного безсмертя у квантових комп’ютерах. Відповідно, існують і контрнаративи. Про природну еволюцію людини переконливо розповів Ґреґ Бір у «Радіо Дарвіна» (1999) та «Дітях Дарвіна» (2003). На мою думку, ці два романи є ключовими для розуміння еволюційного розвитку Homo sapiens.

Ще один ключовий роман про подальший розвиток людини через генетичні маніпуляції — «Апґрейд» (2022) Блейка Крауча. Цей твір характеризується не лише науковою переконливістю, насиченим, захопливим сюжетом і драматичним стилем оповіді, а й насамперед емпатією, як пише Ґабіно Іґлесіас у своїй рецензії на книжку в серпневому номері журналу Locus за 2022 рік: «Це також історія про те, що робить нас людьми, і про необхідність відчувати більше співчуття до інших, тому що жахливий стан світу змусив нас стати бездушними до смерті і страждань (...). Це науково-фантастичний роман близького майбутнього, який спирається на добре наукове підґрунтя, але також має частини, які читаються як літературний роман про сімейну драму, горе і втрати». Quod erat demonstrandum.

Статтю вперше було опубліковано німецькою мовою під назвою «Magie — Technik — Evolution: Künstliche Intelligenzen und die Zukunft des Menschen» в журналі Demokratischer Salon 09 жовтня 2024 року.

Переклав Володимир Комаров