Сем Альтман розкрив конфлікт концепцій ШІ, ризики й заборони

OpenAI та Anthropic по-різному відповідають на головне питання розвитку штучного інтелекту: наскільки широко суспільство має отримати доступ до потужних моделей і якими мають бути обмеження. Сем Альтман вважає, що надмірна обережність може позбавити людей корисних інструментів, тоді як Anthropic наполягає на жорсткішому контролі за найпотужнішими системами.

У чому розходяться підходи OpenAI та Anthropic

Позицію OpenAI Сем Альтман пояснював у розмові з керівником Anthropic Даріо Амодеї. На його думку, суспільству доведеться прийняти можливість окремих негативних випадків, якщо це дасть змогу мільйонам людей користуватися перевагами штучного інтелекту та самостійно створювати нові рішення.

Водночас Anthropic тривалий час сприймали як компанію, що виступає за посилене державне регулювання ШІ. OpenAI натомість асоціювалася з більш гнучким підходом і м’якшими правилами доступу до технологій.

Останні події частково зблизили позиції обох лабораторій. Непередбачувана поведінка моделей, зростання кіберризиків і потенційна можливість зловживань змушують розробників уважніше ставитися до безпеки. Проте Альтман і далі наголошує, що філософія OpenAI відрізняється від підходу Anthropic.

• Anthropic робить акцент на обережності та пропонує обмежувати доступ до найпотужніших систем, щоб зменшити ризик масштабних зловживань.
• OpenAI виступає проти надмірної концентрації технологій у руках кількох лабораторій і вважає, що користь від широкого застосування ШІ може значно перевищити можливі негативні наслідки.

Отже, суперечка точиться не навколо самої потреби в безпеці, а передусім навколо меж контролю: хто має ухвалювати рішення, які моделі можна розробляти та наскільки вільно ними можуть користуватися люди.

Які ризики OpenAI вважає неприпустимими

Прихильність до ширшого доступу не означає, що OpenAI готова ігнорувати потенційно небезпечні сценарії. Альтман визнає: у певних випадках темпи розробки передових моделей доведеться зменшувати, особливо якщо системи демонструють нові або недостатньо вивчені можливості.

Компанія також підтримує проведення незалежних перевірок безпеки. Такі оцінювання мають допомогти виявити загрози до запуску моделей і зменшити залежність від внутрішніх висновків самих розробників.

До ключових «червоних ліній» OpenAI належать:

1. запобігання сценаріям, у яких люди втрачають контроль над штучним інтелектом;
2. недопущення катастрофічних наслідків для суспільства та критичної інфраструктури;
3. залучення незалежних експертів до перевірки найбільш потужних моделей;
4. тимчасове уповільнення розробки, якщо рівень ризику виявиться надто високим.

Таким чином, OpenAI не заперечує необхідність обмежень. Її підхід полягає в тому, щоб застосовувати їх передусім до справді небезпечних можливостей, а не блокувати розвиток і поширення технологій загалом.

Що відповідає Anthropic

Anthropic відкидає звинувачення в тому, що за допомогою регулювання намагається закріпити перевагу великих компаній. Представники лабораторії заявляють, що її пропозиції стосуються лише так званих передових моделей — систем із найвищим рівнем можливостей і потенційно найбільшим масштабом впливу.

Даріо Амодеї раніше пояснював, що такі правила мають стримувати передусім найбільших гравців, які володіють значними обчислювальними ресурсами та можуть швидко створювати дедалі потужніші моделі.

У Anthropic вважають, що чіткі вимоги до безпеки можуть одночасно:

• зменшити ймовірність небезпечного використання передових систем;
• змусити великі лабораторії ретельніше тестувати свої продукти;
• дати меншим компаніям і стартапам змогу конкурувати без необхідності постійно наздоганяти гігантів у гонці масштабування;
• запровадити зрозумілі правила для розробників ще до появи кризових ситуацій.

Отже, Anthropic не пропонує однаково суворо регулювати всі продукти на основі ШІ. Її підхід передбачає посилений нагляд саме за системами, які можуть мати надзвичайно широкий або небезпечний вплив.

Чому дискусія важлива

Розбіжності між OpenAI та Anthropic відображають ширшу суперечку в індустрії. Одні розробники вважають, що надмірні обмеження сповільнять науковий прогрес, доступ до освіти, автоматизації та нових сервісів. Інші наголошують: помилки потужних моделей можуть масштабуватися швидше, ніж суспільство встигатиме на них реагувати.

Поки що обидві компанії погоджуються в одному: найбільш передові системи потребують перевірок і запобіжників. Відмінність полягає в тому, наскільки широким має бути такий контроль і чи повинні обмеження поширюватися на всю галузь, чи лише на найпотужніші моделі.

OpenAI робить ставку на широкий доступ до ШІ за умови блокування катастрофічних сценаріїв. Anthropic наполягає на обережнішому регулюванні передових систем, вважаючи його способом зменшити ризики та зберегти простір для конкуренції з боку менших компаній.