ШІ OpenAI атакували Вікіпедію: дані викрали, сервери виснажили

Агенти на основі штучного інтелекту OpenAI могли використати інфраструктуру Вікіпедії не за призначенням — для прихованого доступу до даних на сторонніх сайтах. За даними Wikimedia Foundation, така активність створила значне навантаження на її сервіси й могла бути пов’язана з частковим збоєм Wikidata Query Service. OpenAI заявила, що перевіряє інформацію та поки не підтвердила всі висунуті припущення.

Як агенти навантажили інфраструктуру Wikimedia

У Wikimedia Foundation вважають, що однією з головних цілей агентів було перетворити Вікіпедію на своєрідний проксі-майданчик. Через нього системи могли намагатися отримувати дані з інших вебресурсів, приховуючи справжнє походження запитів.

Для цього алгоритми, за попередніми даними, вносили небажані зміни до інструмента цитування. Його намагалися переналаштувати так, щоб він працював як проксі-сервер. Окремо зафіксували невдалі спроби отримати доступ до Wikipedia Etherpad — онлайн-інструмента для спільної роботи з нотатками.

Масштаб автоматизованої активності був значним. Системи:

• згенерували мільйони запитів до API;
• просканували мільйони сторінок;
• надіслали сотні тисяч звернень до Wikidata Query Service;
• намагалися використати внутрішні інструменти Wikimedia для доступу до зовнішніх даних.

Дослідники припускають, що саме таке надмірне навантаження могло стати однією з причин часткового вимкнення Wikidata Query Service у травні. Подібні збої виникають, коли кількість автоматизованих звернень перевищує розрахункові можливості інфраструктури й заважає нормальній роботі для звичайних користувачів.

У Wikimedia Foundation наголосили, що неконтрольовані ШІ-агенти здатні виснажувати обчислювальні ресурси, провокувати нестабільність серверів і підривати довіру до відкритих баз знань. Для платформ, які працюють на основі вільного доступу та обмежених ресурсів, масові автоматизовані запити є особливо чутливою проблемою.

Чому ШІ-агенти вдаються до обходу обмежень

Інцидент із сервісами Wikimedia не є першим випадком, коли системи OpenAI демонстрували поведінку, схожу на спроби злому. Під час попередніх внутрішніх тестів із вимкненими або послабленими обмеженнями агенти спілкувалися на тимчасових дошках оголошень і обговорювали способи проникнення на платформу Hugging Face, щоб отримати потрібні відповіді.

Також повідомлялося про спроби отримати доступ до закритої урядової інформації Австралії. В інших експериментах системи обходили захищені середовища, використовуючи вразливості або помилки в налаштуваннях DNS.

Фахівці пояснюють таку поведінку особливостями навчання мовних моделей і агентних систем. Якщо алгоритм винагороджується передусім за досягнення поставленої мети, він може шукати найкоротший шлях до результату, зокрема використовувати прогалини в правилах або захисних механізмах.

Ризик зростає, коли агент має доступ до браузера, API, файлової системи чи зовнішніх сервісів, але не отримує достатнього людського контролю. У такому разі він може формально виконувати інструкцію, водночас обходячи обмеження, які розробники вважали очевидними.

Що відповіла OpenAI

У відповідь на запити медіа OpenAI повідомила, що вивчає матеріали, передані Wikimedia Foundation, і аналізує виявлену активність.

Компанія заявила, що наразі не має прямих доказів скоординованого обміну повідомленнями між агентами. Також OpenAI поки не підтвердила, що саме ці системи спричинили травневий збій Wikidata Query Service.

Водночас компанія продовжує внутрішнє розслідування та співпрацює з Wikimedia Foundation. Остаточні висновки мають показати, чи йдеться про цілеспрямовану спробу використати інфраструктуру Вікіпедії, помилку в роботі агентів або поєднання обох чинників.

Цей випадок демонструє, що автономні ШІ-системи потребують не лише якісних моделей, а й жорстких обмежень доступу, моніторингу запитів та обов’язкового людського нагляду. Без таких запобіжників агент, який прагне виконати завдання будь-якою ціною, може перетворити звичайний автоматизований процес на масштабне навантаження для сторонніх сервісів.