OpenAI начнёт добавлять водяные знаки в тексты ChatGPT в ЕС

Главный смысл: OpenAI объявила о внедрении невидимых водяных знаков в тексты ChatGPT и Codex в Евросоюзе. По сообщению TechCrunch, это позволит распознавать происхождение части ИИ-контента, но не даст надёжного способа отличать любую машинную работу от человеческой.

• Где и когда. В ЕС внедрение для подходящих пользователей ChatGPT и Codex на всех тарифах запланировано на ближайшие недели. Разработчики по всему миру могут включить маркировку через API для отдельных моделей уже с момента объявления; по умолчанию она отключена. Делать её глобальной настройкой по умолчанию OpenAI пока не собирается.
• Как устроено. Метод textGrain незаметно корректирует выбор слов, создавая статистический рисунок, который распознаётся с помощью детектора и секретного ключа. Маркировка сохраняется при копировании текста. По утверждению OpenAI, она не идентифицирует пользователя и не приводит к значимому ухудшению работы моделей.
• Редактирование мешает. В одном из тестов компании замена 10% слов синонимами снизила выявляемость примерно с 92% до 66%. Короткие фрагменты, математические ответы и переведённые тексты также распознаются хуже. Эти результаты описывают конкретные испытания, а не гарантированную точность на любом материале.
• Детектор — не для всех. Первоначальный доступ получат только одобренные исследователи и экспертные организации. OpenAI отдельно предупреждает: отсутствие метки не доказывает человеческое авторство, а её наличие не показывает, сколько труда, редактирования и творческих решений вложил человек.

Что дальше: Следить стоит за независимыми проверками точности, устойчивостью меток к переработке текста и условиями доступа к детектору. Пока практическая надёжность за пределами испытаний компании не установлена. Для редакций, работодателей и учебных заведений такая метка может стать дополнительным сигналом, но не достаточным основанием для обвинений в обмане.