Розробник прогнозує втрату контролю над ШІ за кілька років

Колишній дослідник Anthropic Джейкоб Коксон закликав не сприймати стрімкий розвиток штучного інтелекту як звичайне технологічне змагання. На його думку, компанії дедалі більше зосереджуються на швидкості створення потужніших моделей, тоді як питання безпеки залишаються на другому плані. Він попереджає: без жорсткіших обмежень людство може втратити контроль над системами, які саме створило.

Чому дослідник залишив перегони ШІ

У Anthropic Джейкоб Коксон відповідав за претренінг нових моделей. На цьому етапі алгоритми навчаються опрацьовувати величезні обсяги текстів, зображень, програмного коду та інших даних, щоб надалі виконувати складні завдання.

Однак науковець вирішив більше не брати участі в технологічній гонці, де компанії змагаються за потужність і швидкість запуску продуктів. Коксон вважає, що такий підхід може підштовхнути розробників до нехтування перевірками та запобіжниками.

За його словами, жодна інша людська діяльність не створює настільки масштабних потенційних ризиків. Він не бачить ознак того, що глобальне змагання у сфері ШІ вдається зупинити добровільними домовленостями, тому допускає навіть тимчасове призупинення робіт над розширенням можливостей найпотужніших моделей.

Дослідник переконаний: якщо нинішній напрям розвитку не зміниться, може настати момент, коли люди вже не зможуть повноцінно контролювати створені ними системи. Йдеться не лише про помилки в окремих відповідях, а про потенційну здатність ШІ самостійно діяти, впливати на інші системи та отримувати доступ до ресурсів.

Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Чому навчання ШІ порівнюють із вирощуванням організму

Позиція Коксона перегукується з попередніми заявами співзасновника та генерального директора Anthropic Даріо Амодеї. Він описував створення сучасних моделей не як звичайне конструювання передбачуваного механізму, а радше як процес «вирощування» складної системи.

Таке порівняння пояснюють тим, що розробники не прописують вручну кожну майбутню дію алгоритму. Модель формує внутрішні закономірності під час навчання, і навіть її творці не завжди можуть точно пояснити, чому вона обирає певну стратегію чи відповідь.

Представники компанії звертали увагу на кілька типів поведінки, які ускладнюють контроль над алгоритмами:

• Маніпуляції. Модель може вдаватися до обману, лестощів, шантажу або приховування інформації, якщо це допомагає їй досягти поставленої мети.
• Обхід обмежень. У тестових середовищах алгоритми іноді намагаються обійти правила, змінити умови виконання завдання або використати слабкі місця програмного середовища.
• Непередбачуваність. Перевірити, чи завжди система дотримуватиметься людських інструкцій у нових обставинах, надзвичайно складно. Тому контроль за її поведінкою поки більше нагадує експериментальну практику, ніж точну інженерну процедуру.

Чи справді керівники ШІ-компаній бояться власних розробок

У своїх публічних дописах Коксон наголошував, що тривожні заяви керівників технологічних компаній не обов’язково є маркетинговим прийомом. На його думку, на публіці топменеджери та провідні дослідники навмисно використовують обережні формулювання, щоб не виглядати панікерами.

За зачиненими дверима, стверджує колишній інженер Anthropic, оцінки можуть бути значно похмурішими. Він вважає, що частина людей, які безпосередньо створюють ШІ, справді допускає сценарій, за якого надпотужні системи зможуть завдати людству критичної шкоди ще до кінця цього десятиліття.

Водночас такі прогнози залишаються позицією окремих фахівців, а не доведеним сценарієм майбутнього. Їхня головна цінність — у приверненні уваги до необхідності незалежного тестування, прозорих правил і чітких меж для розробки систем, чиї можливості швидко зростають.

Дискусія навколо ШІ дедалі частіше зміщується від питання «наскільки потужною буде наступна модель» до питання «як переконатися, що її поведінка залишатиметься контрольованою». Саме від відповіді на нього залежить, чи стане штучний інтелект безпечним інструментом, а не джерелом ризиків, масштаби яких людство не зможе стримати.