Суд дозволив Трампу заборонити Anthropic співпрацю з Пентагоном

Судове рішення у спорі між урядом США та Anthropic показало складність вибору між двома ризиками, пов’язаними з використанням штучного інтелекту у військовій сфері. Йдеться про баланс між надійністю систем, які не повинні раптово припиняти роботу під час операцій, і безпекою моделей, здатних генерувати небезпечні або неприйнятні цілі. Остаточне рішення щодо такого балансу суд залишив за керівництвом держави та Міністерством оборони.

Як суд оцінив ризики використання ШІ

Судді визнали, що аргументи мають обидві сторони конфлікту. З одного боку, надмірно обмежена модель штучного інтелекту може несподівано відмовитися виконувати завдання або вимкнутися під час критично важливої військової операції. Така поведінка потенційно здатна зірвати місію та створити додаткові загрози для військових.

З іншого боку, система без достатніх запобіжників може помилково визначити ціль або запропонувати застосування смертоносної сили там, де це неприпустимо. Так звані «галюцинації» ШІ — неправдиві чи вигадані результати, подані як достовірні, — у військовому контексті можуть мати особливо тяжкі наслідки.

У рішенні наголошується, що остаточно зважувати ці конкуруючі ризики мають президент США та міністр оборони. Суд дійшов висновку, що міністр Піт Гегсет, ухвалюючи відповідне рішення, не вийшов за межі своїх повноважень.

• Надмірні обмеження моделі: ризик раптового припинення роботи та зриву військової операції.
• Відсутність достатніх обмежень: можливість помилкових рекомендацій і вибору неприйнятних цілей.
• Відповідальність за баланс: визначати допустимий рівень ризику мають органи виконавчої влади, а не суд.

Позиція Anthropic і можливе оскарження

Компанія Anthropic не погодилася з рішенням суду та почала оцінювати подальші юридичні кроки. Представники розробника заявили, що в іншій пов’язаній справі федеральний суд уже визнав аналогічні дії уряду незаконними.

У компанії наголосили, що й надалі вважають свою правову позицію обґрунтованою та розглядають усі доступні варіанти, зокрема подання апеляції або подальший перегляд справи.

Водночас міністр торгівлі США Говард Латнік раніше стверджував, що адміністрація Дональда Трампа та Anthropic змогли владнати розбіжності й працюють у погодженому напрямі. Ця заява контрастує з тим, що судовий спір між сторонами продовжується.

Чому суди дійшли різних висновків

Суперечність виникла через те, що паралельні справи розглядали два суди, які застосовували різні положення законодавства. Федеральний суд у Каліфорнії раніше визнав урядове рішення незаконним, оскільки, на його думку, Anthropic не відповідала вузькому критерію ризику для ланцюга постачань.

Такий підхід передбачає наявність умисних дій — зокрема саботажу або злого наміру. Каліфорнійський суд не побачив доказів того, що компанія свідомо прагнула завдати шкоди чи діяла як недобросовісний учасник ланцюга постачань.

Апеляційний суд округу Колумбія розглядав питання через іншу, ширшу норму закону. Він не заперечив висновок каліфорнійського суду про відсутність злого умислу, однак зазначив: для застосування ширшого законодавчого критерію доводити навмисний саботаж не обов’язково.

Отже, різні рішення пояснюються не лише оцінкою фактів, а й відмінністю правових підстав, за якими суди аналізували дії уряду. Остаточний розвиток справи залежатиме від можливого оскарження та подальших рішень судових інстанцій.

Суперечка між Anthropic і урядом США демонструє, що правила використання ШІ у військовій сфері ще формуються. Суд визнав обґрунтованими як побоювання щодо ненадійності надто обмежених моделей, так і ризики від систем без достатніх запобіжників, залишивши остаточний вибір за політичним керівництвом держави.