Конфиденциальность и технологическая политика

OpenAI начинает водяную маркировку текстов ChatGPT и Codex в Европейском союзе

OpenAI намерена в ближайшие недели добавить невидимую водяную метку к текстам, создаваемым ChatGPT и Codex в Европейском союзе, в ответ на требования прозрачности Европейского закона об искусственном интеллекте. Компания заявляет, что метка поддаётся автоматическому обнаружению, но её становится сложнее выявить после редактирования, а также в коротких и переведённых текстах.

2026-10-05
3 мин. чтения
502 просмотров
certi.news Editorial Team
OpenAI начинает водяную маркировку текстов ChatGPT и Codex в Европейском союзе

В ближайшие недели OpenAI начнёт добавлять невидимую водяную метку к текстам, создаваемым ChatGPT и Codex для соответствующих требованиям пользователей в Европейском союзе, чтобы обеспечить соблюдение требований прозрачности, предусмотренных Европейским законом об искусственном интеллекте. Запуск будет охватывать все тарифные планы, однако на начальном этапе маркировка текстов не станет глобальной настройкой по умолчанию.

Требования прозрачности вступили в силу 2 августа и обязывают компании, занимающиеся искусственным интеллектом, маркировать автоматически созданный контент таким образом, чтобы другие системы могли его распознавать. При этом разработчики, использующие программный интерфейс OpenAI в любой точке мира, уже сейчас могут включить эту функцию для определённых моделей, однако по умолчанию она отключена.

Как работает водяная метка?

Метка не отображается в виде символа или видимого предупреждения, а создаётся посредством тонкой корректировки выбора слов, предлагаемых моделью. Эта корректировка оставляет шаблон, который может обнаружить специализированный инструмент, причём шаблон сохраняется в тексте при его копировании и вставке. OpenAI заявляет, что метка не раскрывает личность пользователя, а её включение не привело к существенным изменениям производительности моделей в ходе испытаний компании.

Одновременно OpenAI опубликовала технический отчёт о своём методе под названием textGrain, подготовленный исследователями компании и Пенсильванского и Йельского университетов. Согласно отчёту, метод использует секретный ключ для упорядочивания вероятностей следующих слов при завершении предложений, а затем объединяет сотни таких изменений, чтобы детектор мог обнаружить шаблон с помощью текста и ключа.

Ограничения обнаружения после редактирования

Водяная метка не является безусловным доказательством происхождения текста во всех случаях. В одном из испытаний OpenAI замена 10% слов синонимами снизила показатель обнаружения примерно с 92% до 66%. Компания также установила, что короткие фрагменты, математические ответы и переведённые тексты сложнее обнаруживать.

OpenAI предупреждает, что отсутствие метки не доказывает, что текст написан человеком: текст может быть слишком коротким, подвергнуться значительному редактированию или быть созданным системой искусственного интеллекта другой компании. Наличие метки также может указывать на то, что система OpenAI создала или обработала часть фрагмента, но не определяет степень человеческого суждения, редактирования или творчества, вложенных в его создание.

Почему эта новость важна?

Запуск предоставляет европейским организациям дополнительное техническое средство для проверки контента ChatGPT и Codex, но сам по себе не решает проблему подтверждения происхождения текста. Уязвимость к редактированию, переводу и длине текста означает, что результаты обнаружения требуют осторожной интерпретации. Именно поэтому OpenAI решила на первом этапе ограничить доступ к инструментам обнаружения аккредитованными исследователями и специализированными организациями для оценки их надёжности и ответственного использования.

Этот шаг последовал за объявлением Anthropic два месяца назад о глобальной маркировке текстов, создаваемых Claude. Решение вызвало возражения со стороны некоторых пользователей, считавших, что их вклад в инструкции, контекст и решения делает Claude инструментом, а не автором. Ранее OpenAI разработала технологию маркировки текстов, но отказалась от её запуска из-за опасений, что пользователи перейдут к конкурентам, не использующим маркировку, согласно материалу, опубликованному The Wall Street Journal в 2024 году.

Источник новости
c
Автор

certi.news Editorial Team

Что важно знать

OpenAI намерена в течение ближайших недель добавить невидимый водяной знак к текстам, создаваемым ChatGPT и Codex для соответствующих требованиям пользователей в Европейском союзе, чтобы соблюдать правила прозрачности Европейского закона об искусственном интеллекте. Водяной знак можно обнаружить автоматически, но он не подтверждает происхождение текста однозначно и может подвергаться воздействию редактирования, перевода и небольшой длины текста.

  • Запуск охватит все тарифные планы в Европейском союзе, но изначально не будет глобальной настройкой по умолчанию.
  • Метод textGrain основан на точной корректировке вероятностей выбора слов с использованием секретного ключа с последующим обнаружением закономерности в тексте.
  • Водяной знак обычно сохраняется при копировании и вставке текста, но его сложнее обнаружить после редактирования, а также в коротких и переведённых текстах.
  • Замена 10% слов синонимами снизила показатель обнаружения в тесте OpenAI примерно с 92% до 66%.
  • Отсутствие водяного знака не доказывает, что текст написан человеком, а его наличие может означать, что система OpenAI создала или обработала часть текста, не указывая объём человеческого вклада.
  • Изначально доступ к инструментам обнаружения будет предоставлен аккредитованным исследователям и специализированным организациям для оценки их надёжности и ответственного применения.

Частые вопросы

Какие тексты будут иметь водяной знак?

Тексты, создаваемые ChatGPT и Codex для соответствующих требованиям пользователей в Европейском союзе, включая пользователей всех тарифных планов.

Раскрывает ли водяной знак личность пользователя?

OpenAI заявляет, что водяной знак не раскрывает личность пользователя.

Означает ли водяной знак, что текст полностью написан искусственным интеллектом?

Нет. Он может указывать на то, что система OpenAI создала или обработала часть текста, но не определяет объём редактирования, человеческого суждения или использованного творчества.

Можно ли удалить водяной знак или снизить эффективность его обнаружения?

После редактирования, замены слов синонимами, а также в коротких или переведённых текстах его может быть сложнее обнаружить.

В той же категории

Вам также может понравиться

Все новости