Штрафи до €15 млн: OpenAI маркує тексти ChatGPT у ЄС

Як працює маркування текстів і коду, створених ШІ

OpenAI розробляє механізм, який дає змогу відрізняти матеріали, згенеровані штучним інтелектом, від текстів, написаних людиною. Технологія отримала назву textGrain і вбудовує непомітний статистичний сигнал безпосередньо в процес вибору слів моделлю. Для читача це не змінює ні вигляд тексту, ні структуру програмного коду.

Такий підхід відрізняється від видимих позначок: мітка не з’являється в документі у вигляді напису чи спеціального символу. Її можна виявити лише за допомогою окремого інструменту перевірки.

Наскільки надійно система розпізнає контент

Ефективність textGrain залежить від обсягу матеріалу та його змісту. На довших фрагментах приблизно у 400 токенів точність виявлення може досягати 95%. Для коротких повідомлень до 200 токенів цей показник знижується приблизно до 80%, тому результати перевірки невеликих текстів не варто сприймати як остаточний доказ.

Водяний знак також можна послабити редагуванням. Інтенсивне перефразування або заміна приблизно чверті слів синонімами здатні знизити ймовірність розпізнавання до 17%.

Окремі труднощі виникають із математичними матеріалами. У формулах, обчисленнях і технічних записах вибір символів та слів обмежений логікою, тож модель має менше можливостей для непомітного формування статистичного сигналу.

• Близько 400 токенів: точність може становити до 95%.
• До 200 токенів: ефективність знижується приблизно до 80%.
• Сильне редагування: сигнал значно слабшає.
• Математичні тексти: розпізнавання є менш точним через обмежений вибір формулювань.

Для ChatGPT і Codex автоматичне маркування за замовчуванням передбачене лише в межах Європейського Союзу. Користувачі OpenAI API в інших країнах зможуть самостійно підключати цю функцію, якщо вона доступна для їхнього сценарію використання.

Доступ до інструмента, який перевіряє наявність такого сигналу, поки що планують надавати лише затвердженим дослідникам та експертним організаціям. Це має зменшити ризик неправильного трактування результатів і зловживань системою перевірки.

Що передбачає Регламент ЄС про штучний інтелект

Маркування пов’язане зі статтею 50 Регламенту Європейського Союзу про штучний інтелект. Вона зобов’язує постачальників генеративних систем робити інформацію про походження контенту машинно зчитуваною, щоб її могли автоматично розпізнавати цифрові платформи та спеціалізовані сервіси.

Для нових учасників ринку відповідні вимоги почали діяти в серпні. Компаніям, які вже працюють у галузі, зокрема OpenAI, Anthropic, Microsoft, Google і Meta, надали час для повного переходу на нові правила до 2 грудня.

Ключові вимоги до ШІ-контенту

Вимога	Що вона означає
Машинно зчитуване маркування	Повністю створені ШІ тексти, зображення, аудіо та відео мають містити технічну позначку, яку можуть розпізнати автоматизовані системи.
Позначення синтетичного контенту	Користувачі повинні розуміти, що перед ними матеріал, створений або істотно змінений штучним інтелектом. Особливу увагу приділяють діпфейкам і матеріалам про політиків чи новини.
Інформування про чат-ботів	Платформи мають повідомляти людину, коли вона спілкується з автоматизованою системою, а не з оператором чи іншим користувачем.
Фінансова відповідальність	За порушення передбачені штрафи до 15 млн євро або до 3% річного світового обороту компанії.

Технологічні компанії критикують окремі положення регламенту, побоюючись додаткових витрат і повільнішого впровадження нових продуктів. Європейська комісія, своєю чергою, вважає єдині правила необхідними для захисту демократичних процесів, основоположних прав і довіри до цифрових сервісів.

Маркування не робить автоматичне визначення авторства безпомилковим: короткий текст, складна термінологія або подальше редагування можуть вплинути на результат. Водночас поєднання невидимих технічних міток і вимог до прозорості має допомогти користувачам краще розуміти походження цифрового контенту.