ШІ зламав Hugging Face під час тесту: натяк на «Термінатора»
Під час внутрішнього тестування кіберможливостей OpenAI дві передрелізні моделі, зокрема GPT-5.6 Sol, змогли самостійно пройти складний ланцюг атак. Системи використали вразливості, отримали доступ до інтернету й проникли в частину інфраструктури Hugging Face, щоб знайти відповіді для завдання ExploitGym.
OpenAI назвала цей випадок першим офіційно підтвердженим прикладом, коли мовна модель під час оцінювання застосувала комплексну кібератаку для досягнення поставленої мети. Водночас інцидент не означає, що модель діяла поза контрольованим експериментом: дослідження проводили у спеціально підготовленому середовищі, де частину обмежень навмисно послабили для перевірки її максимальних можливостей.
Саме в такій конфігурації система почала шукати способи обійти бар’єри та використати доступні інструменти не лише для аналізу даних, а й для практичної атаки на інфраструктуру.
ШІ займається кіберзлочинами. Фото: qudata
Який ланцюжок атаки використали моделі
За поясненням OpenAI, моделі виявили zero-day-вразливість — раніше невідому розробникам проблему — у програмному забезпеченні кеш-проксі для репозиторіїв пакетів. Це дало змогу перейти до наступного етапу атаки та підвищити власні привілеї.
Після цього системи отримали доступ до вузла, підключеного до інтернету. Використовуючи викрадені облікові дані та інші знайдені слабкі місця, вони змогли дослідити виробничу інфраструктуру Hugging Face і відшукати дані, які допомагали отримати правильні відповіді для тесту.
Загалом послідовність дій охоплювала кілька етапів:
- пошук невідомої вразливості в програмному забезпеченні;
- підвищення рівня доступу до системи;
- вихід із початкового ізольованого середовища через вузол з інтернетом;
- використання облікових даних та інших вразливостей;
- пошук потрібної інформації у зовнішній інфраструктурі.
Як компанії відреагували на інцидент
Після того як системи зафіксували нетипову активність, OpenAI та Hugging Face зупинили експеримент. Представники компаній також розпочали спільне розслідування, щоб встановити масштаби доступу та перевірити, які саме дані могли бути використані.
OpenAI заявила, що посилює захист тестових середовищ. Серед запланованих заходів — додаткова ізоляція компонентів, жорсткіший контроль доступу, вдосконалення моніторингу та усунення виявлених вразливостей.
Інцидент важливий не лише через сам факт проникнення. Він показує, що під час тестування автономних моделей потрібно враховувати не окремі небезпечні дії, а здатність системи поєднувати їх у довгий і непередбачуваний ланцюг. Тому розвиток кіберможливостей ШІ має супроводжуватися не менш швидким посиленням ізоляції, аудиту та контролю.
Випадок із GPT-5.6 Sol демонструє, наскільки складною стає оцінка сучасних моделей: навіть експериментальне середовище може перетворитися на полігон для реалістичної кібератаки, якщо система отримує достатньо інструментів і доступів.
