Нове дослідження пояснило, чому ШІ не мислитиме як людина
На думку науковця Деннінга, саме цей невидимий пласт людського досвіду пояснює, чому сучасні системи штучного інтелекту можуть переконливо працювати з інформацією, але все ще не мають людського розуміння ситуацій.
Що таке неявне знання
Неявне знання формується через особистий досвід, спостереження та взаємодію зі світом. Людина часто може правильно діяти, хоча не здатна точно пояснити, як саме дійшла певного висновку або виконала завдання.
Наприклад, досвідчений водій відчуває небезпечну ситуацію ще до того, як може сформулювати її причину. Майстер помічає незначну зміну в роботі механізму, а музикант коригує виконання твору буквально на рівні відчуттів. Такі рішення важко звести до чітких інструкцій.
П’ять складників людського досвіду, які важко відтворити в ШІ
Деннінг виокремлює кілька типів знань, що залишаються особливо складними для формалізації та передавання машинам.
- Здоровий глузд. Люди автоматично враховують очевидні обмеження фізичного світу, наміри співрозмовника та наслідки власних дій. Спроби створити універсальну базу «здравого сенсу» тривають десятиліттями, однак експертні рішення виявилися набагато складнішими за перелік окремих фактів.
- Практичні навички. Можна описати, якого результату потрібно досягти, але набагато важче передати відчуття руху, сили, рівноваги чи точного моменту дії. Навіть віртуозний скрипаль не здатен повністю перекласти власний фізичний досвід гри в інструкції для учня або робота.
- Почуття та сприйняття. Інтуїція, передчуття, уява й спонтанна творчість виникають із поєднання емоцій, тілесних відчуттів і попереднього досвіду. Їх складно описати цифровими параметрами без втрати суті.
- Повсякденна взаємодія. Люди постійно зчитують жести, погляди, інтонації, дистанцію та реакції довкілля. Значна частина цього процесу відбувається автоматично й не оформлюється в явні правила.
- Культурний та історичний контекст. Значення слів і вчинків залежить від спільного минулого, суспільних норм, колективної пам’яті та настроїв конкретної спільноти. Без цього контексту одна й та сама фраза може бути зрозуміла зовсім по-різному.
Чому самих даних недостатньо
Великі мовні моделі працюють із текстом, знаходять закономірності та генерують відповіді на основі попереднього навчання. Проте, як зазначає Деннінг, вони оперують символами, а не людським досвідом, який за цими символами стоїть.
Слово може мати словникове визначення, але його справжній зміст часто залежить від ситуації. Іронію, щирість, гумор і сарказм неможливо надійно розпізнати без урахування інтонації, попередньої розмови, стосунків між людьми та обставин, у яких пролунала фраза.
Контекст при цьому не має чіткої кінцевої межі: кожна репліка спирається на попередні події, досвід і культурні асоціації. Тому просте збільшення обсягу навчальних даних або кількості параметрів моделі саме по собі не гарантує появи глибокого розуміння культури чи проходження тесту Тюрінга.
Небезпека може бути не в суперінтелекті
Розрив між людським і машинним розумінням створює проблему не лише для філософії штучного інтелекту, а й для безпеки. Люди не завжди можуть пояснити, чому алгоритм ухвалив певне рішення, тоді як машина не здатна повною мірою врахувати людські цінності, наміри та неформальні правила.
На думку науковця, найбільш реалістична загроза може походити не від суперінтелекту, який раптом отримає контроль над світом. Небезпечнішими здатні стати мережі з обмеженим рівнем розуміння, але значною швидкістю, масштабом і автономністю.
Такі системи можуть діяти потужно та непередбачувано, помилково інтерпретувати ситуації й ухвалювати рішення без урахування людського контексту. Проблема посилюється, якщо алгоритми взаємодіють між собою, а люди не можуть своєчасно розібратися в логіці їхніх дій.
Отже, головне питання розвитку ШІ полягає не лише в тому, скільки інформації здатна обробити машина. Не менш важливо зрозуміти, як передати їй здоровий глузд, практичний досвід, культурний контекст і здатність оцінювати наслідки власних рішень.
