Росіяни намагалися застосувати Claude в атаках на Україну
Anthropic опублікувала звіт Threat Intelligence, присвячений випадкам зловживання її моделями Claude протягом останніх восьми місяців. Документ показує, що штучний інтелект дедалі частіше використовують не лише як інструмент для окремих завдань, а як помічника, здатного координувати цілі етапи кібероперацій. У низці випадків люди фактично виконували роль наглядачів, тоді як значну частину технічної роботи робила модель.
ШІ допомагав атакувати українські установи
Окрему увагу у звіті приділено хакерській групі, яку підтримує Росія. Її учасники застосовували Claude майже на всіх етапах операцій проти представників українського урядового, військового та дипломатичного секторів.
За допомогою моделі зловмисники готували фішингові кампанії, намагалися перехоплювати дані з Wi-Fi-мереж у готелях і здобувати доступ до облікових записів у WhatsApp. ШІ використовували не тільки для написання текстів, а й для автоматизації окремих технічних процедур та аналізу результатів атак.
Одним із найнебезпечніших елементів операції стала система, яка відстежувала реакцію антивірусів на шкідливий код. Якщо захисне програмне забезпечення виявляло загрозу, система за допомогою ШІ змінювала код і повторювала перевірку доти, доки він не переставав розпізнаватися.
Аналітики Anthropic вважають, що описана тактика має спільні риси з операціями угруповання Midnight Blizzard. Цю групу пов’язують зі Службою зовнішньої розвідки Росії.
Які ще небезпечні сценарії зафіксували
Зловживання моделями не обмежувалися кібершпигунством. Компанія також виявила спроби застосувати Claude для розроблення озброєнь, біологічних досліджень із небезпечним потенціалом і промислового викрадення даних.
- Розроблення зброї. Користувачі з Росії, Китаю та Ємену намагалися отримати допомогу у створенні програмного забезпечення для вогнепальної зброї, ракет, бойових безпілотників і систем наведення.
- Потенційно небезпечні біологічні експерименти. Anthropic заблокувала кілька облікових записів, пов’язаних зі спробами спланувати дослідження з адаптації ссавців до пташиного грипу.
- Викрадення відповідей для навчання ШІ. Сім китайських лабораторій, серед яких Alibaba, Moonshot і DeepSeek, проводили масштабні атаки, щоб отримувати відповіді Claude та використовувати їх для тренування власних моделей.
Як компанія реагує на такі атаки
Усі облікові записи, які Anthropic ідентифікувала як пов’язані зі зловмисною діяльністю, заблокували. Зібрану під час розслідувань інформацію компанія використала для вдосконалення систем виявлення зловживань і посилення обмежень у своїх продуктах.
Звіт також демонструє важливу зміну в характері кіберзагроз: генеративний ШІ може пришвидшувати не лише створення фішингових повідомлень, а й підготовку, координацію та адаптацію складних атак. Водночас такі інструменти не діють автономно безконтрольно — ефективність операцій залежить від доступів, інфраструктури та рішень людей, які ними керують.
Зафіксовані випадки свідчать, що штучний інтелект уже став робочим інструментом для державних хакерських груп, розробників озброєнь і конкурентної розвідки. Тому захист моделей потребує не лише блокування окремих запитів, а й постійного моніторингу поведінки користувачів та автоматизованих систем.
