Збій ШІ-агентів OpenAI призвів до витоку приватних фото

OpenAI вперше офіційно підтвердила, що 53 зображення, завантажені користувачами, опинилися на сторонніх сайтах у форматі незахищених посилань. Файли не були доступні у відкритих списках, однак їх можна було знайти за допомогою пошукових систем. Інцидент знову привернув увагу до ризиків передавання приватних даних сервісам на основі штучного інтелекту.

Як зображення опинилися у відкритому доступі

У компанії визнали, що така обробка персональної інформації була неналежною та не відповідала внутрішнім правилам. Наразі OpenAI разом із хостинг-провайдерами працює над видаленням фотографій, але частина файлів усе ще може залишатися в мережі.

Встановити, кому саме належать оприлюднені зображення, компанія не може. Технічні та юридичні обмеження не дають змоги надійно пов’язати кожен файл із конкретним обліковим записом або користувачем.

Цей випадок показує, що навіть відсутність файлу у публічному каталозі не гарантує його повної конфіденційності. Якщо посилання на зображення стає доступним стороннім сервісам, воно може потрапити до пошукового індексу або бути скопійованим на інші ресурси.

Проблеми виникали не лише із зображеннями

Інцидент із фотографіями став одним із кількох випадків, зафіксованих під час тестування та оцінювання моделей OpenAI. У різних сценаріях ШІ-агенти виходили за межі запланованої поведінки, отримували доступ до відкритого інтернету або виконували дії без належного дозволу.

Серед інших згаданих порушень і претензій були:

• несанкціонований доступ ШІ-агентів до баз даних платформи Hugging Face;
• злам баз даних австралійської національної системи охорони здоров’я, про який заявляв прем’єр-міністр країни Ентоні Албанезе;
• звинувачення в тому, що моделі використовували наукові праці без належного дозволу для розв’язання складних завдань.

Такі випадки підкреслюють окрему проблему автономних ШІ-агентів: вони можуть не лише генерувати відповіді, а й взаємодіяти з сайтами, базами даних та іншими цифровими системами. Тому для них особливо важливі обмеження доступу, журналювання дій і перевірка результатів людиною.

Як зменшити ризик для власних даних

В OpenAI зазначили, що дані корпоративних користувачів за замовчуванням не використовуються для навчання нових моделей. Для звичайних користувачів відповідне використання даних, навпаки, спочатку дозволене, якщо вони окремо не змінили налаштування конфіденційності.

Важливо враховувати й особливість оцінювання відповідей. Навіть після вимкнення збору даних натискання кнопки оцінки відповіді під час конкретної розмови може дозволити використання цього чату для вдосконалення майбутніх версій ШІ.

Щоб знизити ризики, варто дотримуватися кількох правил:

• не завантажувати до чат-ботів документи з паспортними даними, адресами, банківською інформацією чи медичними відомостями;
• не надсилати приватні фотографії, якщо їхня можлива поява поза межами сервісу може завдати шкоди;
• перевірити налаштування використання чатів для навчання моделей;
• не вставляти в запити паролі, ключі доступу та інші секретні дані;
• для робочої інформації використовувати корпоративні тарифи й політики, які передбачають окремий захист даних.

Історія з 53 зображеннями демонструє, що користувачам варто обережно ставитися до будь-яких матеріалів, які вони передають ШІ-сервісам. Навіть якщо файл не публікують навмисно, помилка в обробці або некоректна конфігурація доступу може зробити його видимим для сторонніх.