OpenAI начнёт внедрять невидимую маркировку для текстов, созданных ChatGPT и Codex, на территории Евросоюза. Компания объяснила это необходимостью соблюдать требования закона ЕС об искусственном интеллекте, сообщив о решении в блоге. Правила прозрачности вступили в силу 2 августа и обязывают разработчиков делать материалы, созданные нейросетями, распознаваемыми для других систем.
Распространение маркировки среди пользователей ChatGPT и Codex начнётся в ближайшие недели и затронет все тарифы в Евросоюзе. Разработчики, работающие с программным интерфейсом OpenAI по всему миру, уже могут включить функцию для отдельных моделей, однако по умолчанию она отключена. Делать такую маркировку обязательной глобально на первом этапе OpenAI не планирует.
Речь идёт не о видимом знаке, а об особом подборе слов, который формирует скрытый узор внутри текста. Читатель его не заметит, но специальный детектор сможет обнаружить такую последовательность, причём она сохранится при копировании и вставке материала. OpenAI утверждает, что технология не позволяет установить личность пользователя и не оказала заметного влияния на работу моделей.
Метод получил название textGrain (текстовая маркировка) и описан в техническом отчёте, подготовленном совместно с исследователями Пенсильванского университета и Йельского университета. Система использует секретный ключ для сортировки вариантов следующего слова, а множество подобных изменений позволяет выявить происхождение текста по самому материалу и ключу. При этом редактирование способно снизить точность распознавания: замена 10% слов синонимами в одном из тестов уменьшила показатель обнаружения примерно с 92% до 66%, а короткие фрагменты, математические ответы и переводы определяются сложнее.
OpenAI предоставит доступ к детектору сначала только одобренным исследователям и профильным организациям, которые смогут оценить его надёжность и ответственное применение. «Отсутствие водяного знака не доказывает, что текст написан человеком», — предупредила компания. По её словам, материал может оказаться слишком коротким, сильно отредактированным или созданным другой системой искусственного интеллекта; кроме того, маркировка показывает лишь возможное участие OpenAI, но не указывает, сколько человеческих решений, правок или творческой работы было вложено в текст.
Как сообщает TechCrunch, объявление OpenAI прозвучало через два месяца после решения Anthropic маркировать тексты Claude по всему миру, которое вызвало недовольство части пользователей. Ранее OpenAI уже разрабатывала подобную технологию, но не выпускала её, опасаясь перехода клиентов к конкурентам без маркировки, писала The Wall Street Journal в 2024 году. Anthropic, Google, Meta (признана в РФ экстремистской и запрещена), Microsoft и OpenAI также заявили о готовности соблюдать европейский кодекс практики для материалов, созданных искусственным интеллектом.