Емоційний контроль у роботі й житті: ризики «ідеального» ШІ

Системи розпізнавання емоцій, або ERT (Emotion Recognition Technology), можуть аналізувати міміку, голос, жести й інші поведінкові сигнали. На перший погляд, це здатне зробити медицину, освіту чи безпеку ефективнішими. Однак масове застосування таких алгоритмів створює ризик: технологія може почати оцінювати не вчинки людини, а її нібито внутрішній стан.

Коли алгоритм вирішує, кому можна працювати

Дослідниця Прежан змоделювала кілька сценаріїв, які показують можливі наслідки поширення точних систем розпізнавання емоцій.

В одному з них хірург приходить до лікарні, щоб провести складну операцію. ERT аналізує його поведінку й повідомляє керівництву про емоційну нестабільність. Адміністрація вирішує тимчасово відсторонити лікаря від роботи.

Та причина тривоги не пов’язана з його професійними навичками. Чоловік переживає розлучення й непокоїться через дитину, але свідомо не дозволяє особистим проблемам впливати на роботу.

Алгоритм, однак, сприймає його емоційний стан як потенційну загрозу для пацієнтів. У результаті лікар змушений пояснювати роботодавцю подробиці приватного життя, хоча система вже фактично винесла рішення щодо його професійної придатності.

Цей приклад демонструє головну проблему: навіть точний аналіз емоцій не пояснює їхньої причини. Тривога може бути наслідком особистої кризи, втоми або важливої події, але не обов’язково свідчить про нездатність якісно виконувати роботу.

Як ERT може змінити соціальні правила

Протягом життя людина поєднує різні ролі: працівника, батька чи матері, партнера, друга, сусіда. У кожній ситуації вона сама визначає, якою інформацією ділитися та що залишати особистим.

Поширення систем розпізнавання емоцій може послабити цей контроль. Якщо технологія отримує змогу «зчитувати» внутрішній стан, межа між професійним і приватним життям стає значно тоншою.

• Приватність втрачає практичний сенс. Людині дедалі складніше приховати переживання або самостійно обрати момент для розмови про них.
• Змінюються правила публічного спілкування. Виступ політика, вибачення посадовця чи реакцію керівника на трагедію можуть оцінювати не за змістом і діями, а за тим, наскільки «щирими» їхні емоції здаються алгоритму.
• Зростає тиск на професійну поведінку. Лікарі, поліцейські, судді чи рятувальники часто навмисно стримують емоції, дотримуючись етики та службових правил. Це не означає байдужості або нещирості.
• Технологічна оцінка може витіснити людську довіру. Суспільство ризикує більше покладатися на висновки системи, ніж на слова, контекст і реальні вчинки людини.

У такій моделі будь-яка невідповідність очікуваній емоційній реакції може стати підставою для підозр. Спокій після трагедії сприйматимуть як байдужість, хвилювання перед важливою зустріччю — як некомпетентність, а стриманість — як ознаку прихованих намірів.

Чому точність алгоритму не розв’язує етичну проблему

Навіть якщо ERT навчаться безпомилково визначати, що людина відчуває, це не дасть відповіді на важливіші запитання: чи має хтось право отримувати таку інформацію, хто може її використовувати та які рішення дозволено на ній ґрунтувати.

Емоція сама по собі не є доказом намірів, характеру чи професійної придатності. Людина може нервувати й водночас чудово виконувати складну роботу, а зовні спокійна поведінка не гарантує добрих намірів.

Емоційна приватність і майбутнє регулювання

Європейський акт про штучний інтелект уже встановлює обмеження для застосування технологій розпізнавання емоцій. Нині одним із головних аргументів є їхня недостатня точність, адже алгоритми можуть помилятися через культурні відмінності, особливості міміки, інтонації або контекст ситуації.

Однак дослідження Прежан стосується перспективи, у якій ці системи стануть набагато надійнішими. Тоді самих технічних аргументів буде недостатньо: суспільству доведеться визначити, чи етично використовувати безпомилкове розпізнавання емоцій у наймі, медицині, освіті, поліції або державному управлінні.

ERT не обов’язково є шкідливими. Такі інструменти потенційно можуть допомагати в ранньому виявленні неврологічних порушень або підтримувати людей, яким важко розпізнавати емоції інших.

Водночас без чітких меж технологія здатна перетворитися на інструмент постійного нагляду. Захист емоційної приватності — це не лише контроль над персональними даними, а й збереження права людини самостійно вирішувати, як представляти себе, що пояснювати іншим і які частини власного життя залишати особистими.

Отже, головне питання полягає не тільки в тому, наскільки точно алгоритми розпізнають емоції. Важливо також, чи повинні вони отримувати право визначати професійну придатність, щирість або надійність людини.