У MIT попередили, що ШІ може змінювати спогади людей

Штучний інтелект може впливати не лише на те, що люди бачать і читають, а й на те, що вони вважають власними спогадами. Експерименти показують: змінені зображення здатні закріплювати помилкові деталі, причому люди часто не сумніваються у правдивості таких спогадів. Це створює додаткові ризики там, де рішення залежать від точності фактів і людського контролю.

Як ШІ формує впевненість у вигаданих спогадах

У дослідженні під керівництвом Патті Маес учасникам спочатку показували добірку справжніх фотографій. Після паузи одну частину групи знову ознайомили з оригіналами, а для іншої підготували зображення, змінені за допомогою штучного інтелекту.

Під час наступної перевірки пам’яті учасники, які бачили відредаговані знімки, частіше неправильно відтворювали початкові деталі. Важливо, що помилки супроводжувалися високою впевненістю: люди не просто плуталися, а щиро вважали свої хибні відповіді правильними.

Такий ефект має значення далеко за межами лабораторії. Діпфейки, сфабриковані фотографії та переконливі тексти, створені алгоритмами, можуть поступово змінювати уявлення людей про події, яких насправді не було. У масштабі суспільства це здатне впливати на політичні погляди, довіру до інституцій і навіть готовність брати участь у виборах.

Чому людський контроль не завжди захищає від помилок

Одна з головних проблем генеративного ШІ — так звані галюцинації. Алгоритм може впевнено подати вигаданий факт, неіснуюче джерело або помилковий висновок як достовірну інформацію.

Щоб зменшити ризики, державні установи, банки, лікарні та військові структури впроваджують модель human in the loop — «людина в контурі». Вона передбачає, що фахівець має перевірити рекомендацію алгоритму перед ухваленням важливого рішення.

Однак сама присутність людини ще не гарантує безпеки. Дослідження свідчать, що експерти можуть не помічати помилок системи, особливо коли вважають її технічно надійною. Якщо відповідь ШІ суперечить власним знанням, людина іноді починає сумніватися у собі й без достатніх підстав приймає машинний висновок.

• алгоритмічна відповідь може виглядати переконливо навіть за відсутності доказів;
• експерт здатен переоцінити точність автоматизованої системи;
• помилка ШІ, повторена кілька разів, сприймається як підтверджений факт;
• відповідальність за остаточне рішення може фактично розмитися між людиною та технологією.

Від помилкового контенту до небезпечної автономії

Для пересічного користувача розпізнавання матеріалів, створених ШІ, поки що часто зводиться до вгадування. Водночас розробники активно розширюють можливості автономних агентів, які можуть самостійно аналізувати дані, планувати дії та виконувати завдання з мінімальним наглядом.

Чим більше етапів ухвалення рішення передають алгоритмам, тим важливішими стають якість даних, прозорість системи й реальна можливість втручання людини. Особливо високою є ціна помилки у військовій, медичній, транспортній та фінансовій сферах.

Як приклад у матеріалах розслідування Міністерства оборони США згадувався авіаудар по початковій школі в Ірані, унаслідок якого загинули понад 150 людей. Серед причин трагедії називали надмірну довіру до системи штучного інтелекту, розробленої Palantir.

За цією версією, алгоритм визначив цивільний об’єкт як потенційну ціль, спираючись на застарілі дані. Люди, які мали перевірити рекомендацію, не поставили її під сумнів. Цей випадок ілюструє головну небезпеку автоматизації: проблема виникає не лише тоді, коли ШІ помиляється, а й тоді, коли люди без достатньої перевірки погоджуються з його висновком.

Отже, штучний інтелект може спотворювати як інформаційне середовище, так і людську пам’ять. Надійний контроль потребує не формальної участі фахівця, а незалежної перевірки фактів, актуальних даних і чітких правил, за яких остаточне рішення не можна бездумно перекласти на алгоритм.