Компания OpenAI планирует внедрить систему скрытой маркировки для контента, созданного её нейросетями, на территории Европейского Союза. Как сообщили в пресс-службе OpenAI, в ближайшие недели текстовые ответы, генерируемые через интерфейсы ChatGPT и Codex, будут снабжаться невидимыми водяными знаками.
Данная инициатива продиктована необходимостью соблюдения норм Закона ЕС об искусственном интеллекте. Согласно этому документу, контент, полученный от генеративных систем, должен быть доступен для автоматического распознавания машиной. В основе нового решения лежит технология под названием textGrain. Она работает за счет тонкой корректировки статистических параметров при выборе слов моделью в процессе генерации. Это создает скрытый сигнал, который остается незаметным для человеческого глаза, но считывается специальным аналитическим инструментом. Примечательно, что внедрение маркировки не требует использования лишних пробелов, скрытых символов или изменения пунктуации.
Однако разработчики из OpenAI признают наличие определенных технических сложностей. Эффективность обнаружения метки напрямую коррелирует с длиной текста. Кроме того, если материал подвергается глубокому редактированию, переводу на другие языки или масштабной переработке, сигнал может стать слишком слабым для идентификации.
Для корпоративного сектора и сторонних разработчиков, использующих API OpenAI, эта функция уже интегрирована в ряд моделей. В настройках сервиса её можно активировать вручную, однако по умолчанию функция остается выключенной.
Подобный путь уже выбрала компания Anthropic: еще в августе её модели Claude начали выдавать тексты с невидимыми водяными знаками, которые, по заявлениям разработчиков, сохраняют устойчивость даже после частичного изменения контента.
Тем не менее экспертное сообщество призывает к осторожности в оценках возможностей данной технологии. Илья Петухов, отвечающий за развитие AI-продуктов и решений в компании Directum, в интервью Радио РБК подчеркнул:
Серьезная правка нейросетевого текста способна разрушить или полностью стереть цифровую метку.
По мнению специалиста, наличие водяного знака лишь подтверждает использование ИИ на конкретном фрагменте, но не является неопровержимым доказательством того, что весь документ был написан искусственным интеллектом.
