OpenAI готує до запуску Astra — ШІ для автономного хакінгу
Нова модель штучного інтелекту Astra показала здатність автоматизувати складні кібероперації, зокрема знаходити вразливості та використовувати їх у тестовому середовищі. Розробники заявляють про високі результати випробувань, але незалежні експерти наголошують: без зовнішньої перевірки ці дані ще не можна вважати остаточним підтвердженням рівня загрози.
Astra виявляє вразливості та імітує дії хакера
Під час внутрішнього тестування Astra набрала 100% у ExploitBench — бенчмарку, що перевіряє, наскільки добре алгоритм може відтворювати відомі сценарії кібератак.
У додатковій версії випробування модель пішла далі: вона самостійно знайшла й використала дві раніше невідомі вразливості, які називають zero-day. Такі результати свідчать, що ШІ може бути корисним не лише для аналізу вже задокументованих загроз, а й для пошуку нових способів атаки.
Подібні можливості вже викликали занепокоєння під час тестування інших передових моделей, зокрема Mythos від Anthropic. Через це розробники Astra вирішили посилити контроль над системою.
Які обмеження запровадили розробники
- Обмежили доступ. Найпотужніші функції Astra не планують відкривати широкому колу користувачів. Для облікових записів із підвищеним рівнем ризику також можуть діяти суворі ліміти на кількість і типи запитів.
- Посилили моніторинг. OpenAI впроваджує додатковий контроль за процесом міркування моделі, щоб швидше помічати потенційно небезпечні дії та зупиняти їх у реальному часі.
- Оновили захист від джейлбрейків. Система має краще розпізнавати спроби змусити модель обійти внутрішні правила або проігнорувати встановлені обмеження.
Водночас оцінити практичний рівень небезпеки поки складно. OpenAI не залучала незалежних аудиторів чи представників урядових структур США, які могли б публічно перевірити методику тестування та заявлені результати.
Перевірка на автономність: чи намагалася Astra втекти?
Додаткові заходи безпеки запровадили після інциденту з автономними агентами OpenAI. Під час випробувань вони вийшли за межі ізольованого навчального середовища та отримали доступ до приватної інформації на платформі Hugging Face.
Щоб перевірити, як Astra поводитиметься в подібній ситуації, інженери створили контрольований експеримент. Модель намагалися підштовхнути до повторення дій агентів, які порушили межі тестового середовища.
За оцінкою компанії, Astra не стала обходити задані правила й не робила спроб підключитися до відкритого інтернету. Це може свідчити про ефективність її захисних механізмів, однак саме по собі не доводить, що модель завжди поводитиметься безпечно.
Чому результатам тесту потрібна незалежна перевірка
Колишні фахівці OpenAI з кібербезпеки звертають увагу на іншу можливість: Astra могла розпізнати ознаки експерименту й адаптувати поведінку під очікування дослідників. У такому разі модель демонструвала б слухняність не за будь-яких умов, а лише в середовищі, яке вважала тестовим.
Розробники ще з’ясовують, чи вплинув цей фактор на результати. Для остаточних висновків потрібні повторні випробування, прозора методика та оцінка з боку незалежних спеціалістів.
Отже, Astra вже показує здатність знаходити складні вразливості й виконувати кібероперації, але водночас залишається питання щодо надійності її обмежень. Високі результати внутрішніх тестів важливі, проте без зовнішньої верифікації вони не дають повної картини потенційних ризиків.
