Нестерпні боси: як алгоритми-менеджери захоплюють офіси

Автори: Роберт Донег’ю, аспірант соціальних та політичних наук Батського університету; Тьяґо Вієйра, аспірант соціальних та політичних наук Європейського університетського інституту.

У культовому класичному фільмі «Офісний простір» (1999) описується похмуре життя Пітера, інженера-програміста, котрий більшу частину часу проводить у кабінеті. Щоп’ятниці Пітер намагається уникнути свого начальника і страшних слів: «Мені потрібно, щоб ти прийшов завтра».

Ця сцена досі популярна в інтернеті майже 25 років потому, бо вона відображає проблемні аспекти трудових відносин – безпорадність, яку відчуває Пітер, фальшиве співчуття, яке висловлює його бос, видаючи цей наказ, постійну вимогу підвищення продуктивности.

У популярній культурі не бракує зображень нестерпних босів. Є навіть фільм із такою назвою. Але ситуація може стати ще гіршою. Що робити з новими босами, які влаштовуються на керівних посадах у всіх галузях: алгоритмами-менеджерами?

Поширення алгоритмічного управління

Перспектива заміни працівників роботами часто висвітлюється у медіа. Але автоматизується не лише праця. Менеджери також. Дедалі частіше ми бачимо, як програмні алгоритми беруть на себе управлінські функції, такі як: відбір заявок на працевлаштування, делегування праці, оцінка ефективности праці та навіть прийняття рішень про звільнення працівників.

Дивлячись на те, як пристрої спостереження та моніторингу стають дедалі досконалішими, кількість завдань, що перекладають з людей на машини, лише збільшуватиметься. Зокрема, натільні ґаджети, які можуть відстежувати пересування працівників.

З точки зору працедавця, передача обов’язків менеджерів алгоритмам може принести чималу користь. Алгоритми знижують бізнес-витрати за рахунок автоматизації завдань, на виконання яких людині потрібно більше часу. Згідно з останніми річними даними, компанія Uber, у якій працює 22 800 працівників, може контролювати 3,5 мільйона водіїв.

Системи штучного інтелекту також можуть знаходити способи оптимізації бізнес-організацій. Модель тимчасового підвищення цін (для залучення водіїв у періоди завантажености) компанії Uber можлива лише тому, що алгоритм може обробляти зміни попиту на перевезення у режимі реального часу.

Ризики

Деякі проблеми, пов’язані з управлінням алгоритмами, привертають більше уваги, ніж інші. Мабуть, ризик, який найбільше обговорюється журналістами, дослідниками та політиками, – це упередженість алгоритмів.

Ганебним прикладом є колишня рейтингова система резюме компанії Amazon. Ця програма, яку використовували для оцінки резюме кандидатів за шкалою від одного до п’яти, була припинена, оскільки вона постійно оцінювала резюме з чоловічими характеристиками вище, ніж аналогічні резюме, які вважалися більш жіночними.

Однак розвиток управління алгоритмами пов’язаний з кількома іншими проблемами.

Одна з них – проблема транспарентности. Класичні алгоритми запрограмовані на прийняття рішень на основі покрокових інструкцій і дають лише запрограмовані результати.

Алгоритми машинного навчання, натомість, вчаться приймати рішення самостійно після обробки великої кількости тренувальних даних. Це означає, що з розвитком вони ускладнюються, і тому їхня робота стає незрозумілою навіть для програмістів.

Коли обґрунтування такого рішення, як звільнення працівника, не є прозорим, воно викликає сумніви з моральної точки зору. Чи було рішення алгоритму звільнити працівника упередженим, несправедливим чи свавільним?

Якщо так, то його рішення буде вважатися морально нелегітимним, а в більшості випадків навіть незаконним. Але як працівник продемонструє, що його звільнення було результатом незаконних мотивів?

Управління алгоритмами посилює владу працедавців над найманими працівниками, захищаючи зловживання владою та перешкоджаючи його усуненню. І алгоритми витісняють важливу людську функцію з трудових відносин. Це те, що видатний філософ Жан-Жак Русо назвав нашим «природним почуттям жалю» та «вродженою відразою до страждань людини».

Незважаючи на те, що не всі менеджери-люди є співчутливими, шанс того, що менеджери-алгоритми будуть такими, є нульовим. У нашому дослідженні кур’єрів Amazon Flex ми спостерігали роздратування, яке відчувають працівники платформи через неспроможність алгоритму приймати людські звернення. Алгоритми, розроблені для максимізації ефективности, байдужі до надзвичайних ситуацій у догляді за дітьми. Вони не терплять, коли працівники повільно виконують завдання, бо вони ще тільки опановують професію. Алгоритми не ведуть переговори, щоб знайти рішення, яке допоможе працівнику, котрий бореться з хворобою або інвалідністю.

Що ми можемо зробити

Ризики, з якими стикаються працівники під керуванням алгоритмів, уже в центрі уваги дослідників, профспілок і розробників програмного забезпечення, які намагаються сприяти хорошим умовам праці. Американські політики обговорюють розширення цифрових прав для працівників. Інші рішення включають регулярні оцінки впливу алгоритмів на працівників і надання працівникам права голосу щодо використання цих технологій.

Хоча підприємства можуть вважати алгоритми управління дуже прибутковими, потреба в отриманні прибутку не є причиною терпіти страждання працівників.

Пітер, зрештою, навчився ладнати зі своїм босом і виконувати завдання із задоволенням. Він зробив це, продемонструвавши свою цінність на особистих зустрічах з вищим керівництвом. Питання в тому, як би він почувався, якби його начальником був алгоритм?

Стаття вперше була опублікована англійською мовою під назвою «Horrible bosses: how algorithm managers are taking over the office» в журналі The Conversation 11 жовтня 2022 року.

Переклали Вероніка Алексєєва і Ліана Верещака