WSJ: команда Трампа готує доповідь про ризики ШІ

В адміністрації Дональда Трампа створять спеціальну робочу групу, яка займатиметься питаннями штучного інтелекту та потенційних ризиків, пов’язаних із його розвитком. Її очолить Джей Клейтон, а перший звіт група має підготувати протягом 120 днів.

Які завдання отримала робоча група

Клейтон підтвердив, що погодився очолити ініціативу. За його словами, президент США доручив сформувати команду, яка допоможе країні зберегти лідерство у сфері надрозумного штучного інтелекту та водночас захистити інтереси американців.

У документах ініціативу назвали «Суперрозвідувальною силою». Їй відведено 120 днів на підготовку доповіді з оцінкою загроз, наявних можливостей держави та подальших кроків уряду.

Основне завдання групи полягає у виробленні планів реагування на ризики, які можуть виникнути через масштабне впровадження систем штучного інтелекту. Водночас її учасники мають не допустити надмірного державного контролю, здатного стримувати інновації та послаблювати конкуренцію.

Що саме аналізуватимуть

Робоча група вивчить уже наявні урядові попередження та звіти про інциденти, пов’язані зі штучним інтелектом. Ідеться, зокрема, про порушення безпеки, злами, спроби обійти встановлені обмеження систем і так звані джейлбрейки.

За підсумками аналізу команда має запропонувати способи посилення спроможності уряду реагувати на такі випадки в межах чинних повноважень. Серед потенційних напрямів — удосконалення обміну інформацією, швидше виявлення небезпечних сценаріїв і координація дій державних структур.

• оцінити загрози від системної інтеграції штучного інтелекту;
• проаналізувати відомі випадки зламів, порушень і обходу обмежень;
• визначити, як уряд може ефективніше реагувати на інциденти;
• зберегти баланс між безпекою, інноваціями та конкуренцією.

Чому питання ШІ викликає занепокоєння

Рішення про створення групи ухвалили на тлі зростання суспільної уваги до ризиків штучного інтелекту. Дискусія вже давно не обмежується можливим скороченням робочих місць через автоматизацію.

Дослідники також попереджають, що потужні системи ШІ можуть використовуватися для організації складних кібератак, створення нових видів зброї або масштабного втручання в критичну інфраструктуру. Частина фахівців допускає і значно радикальніші сценарії, зокрема такі, що можуть становити загрозу для стабільності цивілізації.

Отже, нова робоча група має одночасно розв’язати два завдання: підготувати державу до потенційно небезпечного розвитку технологій і не створити правила, які блокуватимуть науковий поступ та чесну конкуренцію.