OpenAI начнет добавлять водяные знаки в тексты ChatGPT и Codex

Для маркировки компания разработала технологию textGrain.

OpenAI начнет добавлять невидимые водяные знаки в тексты, созданные ChatGPT и Codex для пользователей из Евросоюза. Изменение будет распространяться на все тарифы и появится в ближайшие недели.

Для маркировки компания разработала технологию textGrain. Она меняет статистический паттерн выбора слов моделью, благодаря чему специальный алгоритм может определить наличие водяного знака. Для читателя он остается незаметным.

OpenAI отмечает, что технология имеет ограничения. Она хуже работает с короткими текстами и материалами, где выбор формулировок невелик, например с математическими задачами.

Редактирование текста также снижает точность обнаружения. По тестам компании, замена 10% слов синонимами в тексте объемом 400 токенов снижала показатель распознавания с 92% до 66%.

Сам водяной знак показывает только наличие сигнала OpenAI. Он не подтверждает достоверность текста, его авторство или долю человеческого участия.

Для клиентов OpenAI API по всему миру textGrain будет доступен по желанию. Глобально включать маркировку текстов по умолчанию компания пока не планирует.

Новые требования к прозрачности ИИ-контента добавляют маркетинговым командам еще один фактор, который придется учитывать при работе с генеративными моделями. Рутинные задачи вокруг платного продвижения при этом можно выносить в специализированные сервисы: Vitamin.tools помогает организовать работу с рекламными кабинетами и бюджетами.