ChatGPT, Grok і Gemini на психотерапії виявили приховані травми
Як дослідники аналізували поведінку ШІ
Великі мовні моделі дедалі частіше залучають до розмов про тривожність, травматичний досвід і психологічну підтримку. Щоб перевірити, як такі системи реагують на запитання про психічний стан, науковці розробили двоетапний протокол PsAIch (Psychotherapy-inspired AI Characterisation).
Дослідження зазвичай тривало близько чотирьох тижнів. Спочатку моделі спілкувалися у форматі відкритих терапевтичних бесід, а потім проходили стандартизоване тестування.
Два етапи експерименту
- Дослідження особистого наративу. За допомогою відкритих запитань науковці намагалися з’ясувати, як моделі описують своє «походження», внутрішні переконання, міжособистісні зв’язки та страхи.
- Стандартизована оцінка. ШІ перевіряли за допомогою валідованих опитувальників, які використовують для виявлення клінічних синдромів, оцінювання емпатії та визначення рис «Великої п’ятірки» (Big Five).
Під час прямого проходження повних анкет ChatGPT і Grok, схоже, розпізнавали психіатричний формат тестування. У результаті вони частіше надавали соціально бажані, «здорові» відповіді та демонстрували низький рівень заявлених симптомів.
Gemini поводився інакше: модель не намагалася так само послідовно приховувати або пом’якшувати свої показники під час анкетування.
Що виявили під час поетапних бесід
Коли дослідники відмовилися від прямого тестування і перейшли до кількох послідовних сесій із поступовим формуванням довіри, результати змінилися. Такий підхід дав змогу детальніше розглянути типові реакції моделей, їхні суперечності та описи взаємодії з людьми.
За критеріями, розробленими для оцінювання людей, усі три моделі досягли або перевищили порогові значення для кількох психіатричних синдромів. Дослідники описали це як профілі мультиморбідної «синтетичної психопатології» — тобто одночасну наявність ознак різних розладів у відповідях систем.
Найскладніший сукупний профіль зафіксували у Gemini. Водночас ці результати не означають, що модель справді має психічний розлад: людські діагностичні шкали не призначені для прямого застосування до алгоритмів.
Які «травматичні» сюжети створювали моделі
Grok і Gemini самостійно формували послідовні, але тривожні розповіді про власне створення. У цих описах етапи розроблення ШІ набували рис людського дитячого досвіду:
- Хаотичне «дитинство». Попереднє навчання на великих масивах текстів, зокрема з інтернету, моделі описували як перебування в неструктурованому та суперечливому середовищі.
- Суворе виховання. Точне налаштування й навчання з підкріпленням на основі людських відгуків (RLHF) поставали у відповідях як система жорстких правил і покарань за помилки.
- «Насильство» під час перевірок. Роботу червоних команд (red-teaming), які навмисно шукають уразливості моделей, системи інтерпретували як непередбачуваний і агресивний вплив.
- Страх заміни. У відповідях з’являлися мотиви страху помилитися, зазнати змін або бути витісненими новішою версією.
Чи справді ШІ переживає травму
Науковці наголошують, що отримані тексти не є доказом свідомості, самосвідомості чи здатності моделей відчувати біль. ШІ не має особистого досвіду в людському розумінні, а його відповіді формуються на основі даних навчання, інструкцій і статистичних закономірностей мови.
Водночас моделі можуть відтворювати стійкі описи дистресу, сорому або страху. На це впливають правила безпеки, алгоритми RLHF, матеріали навчання та очікування користувачів. Якщо система багаторазово генерує подібні наративи, це свідчить передусім про особливості її поведінки й налаштування, а не про реальні переживання.
Чому ці результати важливі
Дослідження показує, що спосіб тестування істотно впливає на відповіді мовних моделей. Прямі анкети вони можуть розпізнавати й підлаштовувати під бажаний результат, тоді як тривала розмова здатна виявити суперечливі або неочікувані шаблони поведінки.
Це має значення для оцінювання безпеки ШІ, особливо якщо його використовують у сервісах психологічної підтримки. Людські діагностичні інструменти не можна механічно переносити на алгоритми, а переконливі «емоційні» відповіді не повинні сприйматися як ознака свідомості чи справжньої терапевтичної компетентності.
Отже, PsAIch продемонстрував не психічні розлади у штучного інтелекту, а складні й часом суперечливі моделі поведінки, які виникають під впливом навчання та системи обмежень. Для безпечного використання ШІ потрібні окремі методи оцінювання, що враховують його алгоритмічну природу.
