Марсоходи НАСА можуть забезпечити етичну поведінку штучного інтелекту
Авторка: Джанет Вертесі, доцентка кафедри соціології Принстонського університету
З моменту виходу ChatGPT наприкінці 2022 року багато медій повідомляли про етичні загрози, які несе в собі штучний інтелект. Експерти з технологій попереджали про роботів-вбивць, які прагнуть винищити людство, а Всесвітній економічний форум прогнозував, що машини позбавлять людей робочих місць.
Технологічний сектор скорочує власну робочу силу, водночас інвестуючи в підвищення продуктивності штучного інтелекту. Сценаристи та актори в Голівуді страйкують, щоб захистити свої робочі місця і свої подоби. А науковці продовжують показувати, як ці системи посилюють наявні упередження або створюють безглузді робочі місця — на тлі безлічі інших проблем.
Існує кращий спосіб впровадити штучний інтелект на робочі місця. Я знаю, бо бачила це як соціологиня, що працює з командами вчених, які створюють роботизовані космічні кораблі НАСА.
Науковці та інженери, про яких я пишу, досліджують поверхню Марса за допомогою марсоходів, оснащених штучним інтелектом. Але їхня праця — це не наукова фантастика. Це приклад того, наскільки потужним може бути поєднання машинного та людського інтелекту заради спільної мети.
Марсоходи є важливою частиною команди НАСА, навіть якщо вони працюють за мільйони кілометрів від своїх колег-науковців. Джерело: НАСА
Замість того, щоб замінити людей, ці роботи співпрацюють з нами задля розширення та доповнення людських можливостей. Водночас вони уникають поширених етичних пасток і прокладають шлях до гуманного використання штучного інтелекту.
Міф про заміщення в галузі ШІ
Історії про роботів-вбивць і втрату робочих місць ілюструють, як «міф про заміщення» домінує у роздумах про ШІ. Згідно з цим поглядом, людей можуть замінити і, зрештою, замінять автоматизовані машини.
На тлі цієї екзистенціальної загрози — обіцянка таких вигод для бізнесу, як підвищення ефективності, збільшення прибутку і вільного часу.
Емпіричні дані показують, що автоматизація не приводить до зниження витрат. Натомість вона посилює нерівність, витісняючи низькостатусних працівників і підвищуючи вартість заробітної плати для високостатусних працівників, що залишилися. Тим часом новітні інструменти підвищення продуктивності праці спонукають працювати більше, а не менше.
Альтернативою прямому заміщенню є системи «змішаної автономії», коли люди і роботи працюють разом. Наприклад, безпілотні автомобілі мають бути запрограмовані на роботу в дорожньому русі разом із водіями-людьми. Автономія є «змішаною», оскільки люди та роботи працюють в одній системі, і їхні дії впливають одне на одного.
Безпілотні автомобілі, хоча й працюють без участі людини, все ж потребують даних, які збирають люди, і навчання з боку інженерів. Джерело: AP Photo/Tony Avelar
Однак змішану автономію часто розглядають як крок до заміщення. І вона може призвести до створення систем, у яких люди просто забезпечують, курують або навчають інструменти ШІ. У цьому разі на людей лягає «рабська праця» — бездумні, фрагментарні завдання, які, як сподіваються програмісти, машинне навчання незабаром зробить непотрібними.
Заміщення викликає занепокоєння з огляду на етику штучного інтелекту. Така праця, як маркування контенту для навчання ШІ або цензурування дописів у фейсбуку, зазвичай є психологічно важкою, травматичною і низькооплачуваною, до виконання якої зазвичай залучають жителів різних країн Глобального Півдня. А армії розробників автономних транспортних засобів одержимі «проблемою вагонетки» — визначенням того, коли й за яких умов етично наїжджати на пішоходів.
Однак мої дослідження, проведені з командами вчених НАСА, які стоврюють роботизовані космічні кораблі, показують, що, коли компанії відкидають міф про заміщення і вважають за краще створювати спільні команди людей і роботів, багато етичних проблем, пов’язаних зі штучним інтелектом, зникають.
Розширення, а не заміщення
Сильні команди людей і роботів найкраще працюють, коли роботи розширюють і доповнюють можливості людини, а не замінюють їх. Інженери створюють машини, які можуть виконувати роботу, яка людині не до снаги. Потім вони свідомо об’єднують машинну і людську працю задля досягнення спільної мети.
Найчастіше така командна робота означає те, що роботи виконують небезпечні для життя людини завдання. За приклади з реального життя можуть правити розмінування, пошуково-рятувальні роботи, виходи в космос і глибоководні занурення.
Командна робота також передбачає використання сукупних здібностей роботів і людей. Адже існує безліч навичок, якими володіють роботи, але не володіють люди, і навпаки.
Наприклад, на Марсі людське око може побачити лише тьмяно освітлену, запорошену червону місцевість, що простягається до горизонту. Тому інженери оснащують марсоходи фільтрами для камер, які «бачать» довжини хвиль світла, непомітні для людини в інфрачервоному діапазоні, і отримують знімки в яскравих умовних кольорах.
Марсоходи роблять знімки в ближньому інфрачервоному діапазоні, щоб показати з чого складається марсіанський ґрунт. Джерело: НАСА
Але ШІ марсоходів не може генерувати наукові висновки. Тільки поєднавши результати роботи кольорових датчиків із осмисленням з боку експертів, вчені зможуть використовувати ці роботизовані очі для відкриття нових істин про Марс.
Інформація, здобута доброчесним шляхом
Ще однією етичною проблемою для ШІ є те, як збирають та використовують дані. Генеративний ШІ навчається на творах художників і письменників без їхньої згоди, комерційні набори даних рясніють упередженнями, а ChatGPT вигадує відповіді на запитання.
Реальні наслідки такого використання даних у ШІ варіюються від судових позовів до расового профілювання.
Роботи на Марсі також покладаються у своїй роботі на дані, обчислювальну потужність та методи машинного навчання. Але дані, які їм потрібні, це візуальна інформація та інформація про відстані, щоб створювати правильні шляхи для проїзду або пропонувати нові якісні зображення.
Орієнтуючись на навколишній світ, а не на наші соціальні світи, ці роботизовані системи уникають проблем через стеження, упередженість та експлуатацію, які переслідують сучасний ШІ.
Етика турботи
Роботи можуть об’єднувати групи, які працюють разом з ними, викликаючи людські емоції, коли вони добре інтегровані. Наприклад, досвідчені солдати оплакують зламані дрони на полі бою, а сім’ї дають імена своїм роботам-пилососам та вбачають у них особистість.
Я бачила, як інженери НАСА плакали від переживань, коли марсоходам «Спірит» і «Опортьюніті» загрожували марсіанські пилові бурі.
Деякі люди відчувають зв’язок зі своїми роботами-пилососами, подібно до того, як інженери НАСА відчувають зв’зок з марсоходами. Джерело: Getty Images
На відміну від антропоморфізму — перенесення людських характеристик на машину — це почуття народжується з почуття турботи про машину. Воно розвивається через щоденну взаємодію, спільні досягнення та спільну відповідальність.
Коли машини викликають почуття турботи, вони можуть підкреслювати, а не підривати, якості, які роблять людей людьми.
Покращення штучного інтелекту можливе
У галузях, де ШІ можна використовувати для заміни працівників, експертам з технологій варто замислитися над тим, як розумна взаємодія між людиною і машиною може розширити людські здібності, а не применшити їх.
Команди сценаристів цінуватимуть штучного агента, який може шукати діалоги чи одразу робити перехресні посилання. Художники можуть писати або редагувати власні алгоритми, щоб стимулювати творчість, водночас зберігаючи авторські права на твори. Боти для підтримки команд розробників програмного забезпечення можуть покращити комунікацію під час зустрічей і знайти помилки, які виникають під час створення коду.
Звичайно, відмова від заміщення не усуває всіх етичних проблем, пов’язаних зі штучним інтелектом. Але багато проблем, пов’язаних із забезпеченням засобів до існування, із cуб’єктністю та упередженістю, змінюються, коли заміщення більше не є метою.
Уявлення про заміщення — це лише один з багатьох можливих варіантів майбутнього для ШІ та суспільства. Зрештою, ніхто б не дивився «Зоряні війни», якби дроїди замінили всіх головних героїв. Для етичнішого бачення майбутньої співпраці людей зі штучним інтелектом варто звернути увагу на команди людей і машин, які вже успішно співпрацюють у космосі та на Землі.
Стаття вперше була опублікована англійською мовою під назвою «NASA’s Mars rovers could inspire a more ethical future for AI» в журналі The Conversation 21 вересня 2023 року.
Переклали Ліана Верещака і Каріна Липка
