Anthropic: Claude застосовують для вірусів, отрут і атак

Штучний інтелект дедалі частіше використовують у біомедичних дослідженнях — від розробки вакцин до аналізу генетичних даних. Водночас ті самі інструменти можуть допомогти модифікувати небезпечні патогени або створювати токсичні сполуки. У Anthropic заявили, що виявили кілька випадків, коли їхню модель Claude намагалися залучити до потенційно небезпечних біологічних проєктів.

Чому складно відрізнити науку від біозагрози

Одна з головних проблем полягає в тому, що легітимні та небезпечні дослідження можуть використовувати схожі наукові підходи. Наприклад, аналіз властивостей вірусу або його взаємодії з імунною системою може бути частиною розробки вакцини, але водночас — спробою зробити патоген заразнішим чи стійкішим.

Саме тому в Anthropic обрали максимально обережну модель реагування: підозрілі запити блокують, а відповідні облікові записи перевіряють. Компанія наголошує, що потенційні наслідки зловживань у біологічній сфері можуть бути значно серйознішими, ніж у багатьох інших галузях.

Які потенційно небезпечні сценарії виявили

За даними компанії, системи безпеки зафіксували кілька типів активності, пов’язаної з можливим посиленням властивостей патогенів і токсинів:

• Модифікація вірусу Чикунгунья. Класифікатор перехопив запит на підготовку грантової заявки для проєкту, що передбачав так зване посилення функції вірусу. Йшлося, зокрема, про підвищення його заразності та здатності уникати імунної відповіді. У матеріалах також фігурував зв’язок із військовою науковою установою.
• Експерименти з пташиним грипом. Аналогічні спроби змінити властивості небезпечного патогену виявили під час роботи з вірусом пташиного грипу.
• Оптимізація токсинів. Один із користувачів намагався застосувати Claude для створення автоматизованого процесу, який мав покращувати характеристики пептидних отрут і підвищувати їхню ефективність.

У таких випадках ризик створює не лише сама наукова інформація, а й можливість швидко поєднати окремі етапи дослідження в один автоматизований процес. ШІ може пришвидшити аналіз, підготовку документів і пошук рішень, які раніше вимагали значно більше часу та спеціалізованих ресурсів.

Що кажуть експерти

Керівник підрозділу аналізу загроз Anthropic Джейкоб Клейн зазначив, що люди, які планують зловживання, зазвичай не формулюють свої наміри прямо. Через це оцінювання ризику потребує аналізу контексту, сукупності запитів і поведінки користувача, а не лише пошуку очевидних заборонених формулювань.

Старший науковий співробітник Ради зі стратегічних ризиків Ендрю Вебер назвав описані випадки тривожними. На його думку, вони демонструють, як пов’язані з державними структурами розробники біологічної зброї можуть намагатися використовувати сучасні можливості штучного інтелекту.

Як Anthropic відреагувала на виявлені випадки

Усі облікові записи, які визнали причетними до підозрілої активності, заблокували. Водночас компанія не стала розкривати імена дослідників і назви лабораторій.

Причина такого рішення — відсутність прямих доказів злочинного наміру та ризик завдати шкоди науковцям, які можуть працювати над легітимними дослідженнями. Зібрані під час перевірок дані Anthropic планує використати для вдосконалення систем, що виявляють і запобігають небезпечному використанню ШІ.

Цей випадок показує, що захист біологічних систем на базі штучного інтелекту має враховувати не тільки зміст окремого запиту, а й мету, контекст та послідовність дій користувача. Водночас ефективна безпека потребує балансу між запобіганням зловживанням і захистом доброчесних наукових досліджень.