Anthropic окреслила межі бану ШІ: 50 смертей або $1 млрд збитків
Anthropic запропонувала Конгресу США власну модель регулювання штучного інтелекту. Законопроєкт має створити процедуру, за якою поширення або використання ШІ-систем із доведеним катастрофічним ризиком можна буде зупинити, але не дозволить чиновникам блокувати розробки без рішення суду.
Які ризики вважатимуть катастрофічними
Втручання держави стане можливим лише тоді, коли загроза буде одночасно передбачуваною та неминучою. Тобто самих припущень про потенційну небезпеку буде недостатньо — ризик мають підтвердити результати незалежної оцінки.
До катастрофічних наслідків у законопроєкті пропонують віднести:
- загибель або тяжкі травми щонайменше 50 людей;
- майнові збитки на суму понад 1 млрд доларів;
- застосування моделі для створення біологічної зброї;
- організацію масштабних кібератак;
- вихід системи з-під контролю розробників.
Таким чином, документ орієнтується передусім на сценарії з масовими жертвами або надзвичайно великими збитками, а не на кожен окремий інцидент, пов’язаний із помилковою роботою ШІ.
Хто перевірятиме безпеку моделей
Оцінювання пропонують передати незалежним експертам, яких акредитує Міністерство торгівлі США. Лабораторії зможуть оплачувати такі перевірки самостійно, однак винагорода оцінювачів не повинна залежати від того, який висновок вони підготують.
Якщо експерти виявлять ознаки катастрофічної загрози, вони мають повідомити про це Міністерство торгівлі протягом 72 годин. Далі рішення про можливе блокування розробки або її випуску ухвалюватиме федеральний суд у Вашингтоні.
Законопроєкт прямо обмежує повноваження федеральних агентств і посадовців: вони не зможуть самостійно забороняти створення чи запуск моделей на підставі власного рішення. Такий підхід має запобігти раптовим адміністративним обмеженням, подібним до тих, через які уряд США влітку перекрив доступ до двох передових моделей Anthropic за допомогою суворих експортних правил.
Суперечки навколо єдиного стандарту
Окремий розділ ініціативи стосується взаємодії федерального законодавства із законами штатів. Anthropic пропонує скасувати частину місцевих норм і запровадити єдині правила для всієї країни.
Саме ця пропозиція стала однією з головних причин політичних суперечок у Конгресі. Частина демократів побоюється, що федеральний стандарт може послабити суворіші вимоги, які вже діють у Каліфорнії та Нью-Йорку.
Критика моделі контролю
Ініціативу критикують представники різних політичних таборів. Найбільше запитань викликає механізм фінансування перевірок: навіть за умови формальної незалежності оцінювачів той факт, що їм платять самі ШІ-лабораторії, може створювати конфлікт інтересів.
Експерти також вважають запропоновані пороги надто вузькими. Вимоги про щонайменше 50 загиблих або понад 1 млрд доларів збитків не охоплюють менш масштабні, але вже реальні загрози — наприклад, автономне проникнення ШІ-агентів на вебсайти чи проведення кібератак.
Отже, законопроєкт Anthropic намагається поєднати контроль над найнебезпечнішими сценаріями з судовим захистом від свавільних заборон. Водночас остаточна ефективність такої системи залежатиме від незалежності оцінювачів, точності критеріїв ризику та того, як федеральні правила співіснуватимуть із жорсткішими законами окремих штатів.