OpenAI внедрит невидимые водяные знаки в ответах ChatGPT для ЕС

OpenAI планирует внедрить невидимые водяные знаки в текстовые ответы ChatGPT для пользователей Европейского Союза. Это решение принято в соответствии с требованиями закона Евросоюза об искусственном интеллекте, известным как EU AI Act. Компания разработала новую систему под названием textGrain, которая не использует скрытые символы или особые пробелы. Вместо этого она изменяет статистику выбора слов и частей, создавая паттерн, который может определить специальный детектор, но остаётся невидимым для человека.

В ближайшем будущем данная маркировка будет добавлена в подходящие ответы ChatGPT и Codex для пользователей из ЕС. OpenAI намеревается задействовать эту функцию во всех своих тарифах, хотя за пределами Евросоюза её пока запускать не будут. На данном этапе OpenAI не будет открывать публичный сервис, позволяющий проверять тексты. Доступ к детектору будет предоставлен только одобренным исследователям и специализированным организациям.

Примечательно, что наличие метки не гарантирует, что текст был создан ChatGPT, и не позволяет идентифицировать пользователя, его аккаунт или конкретный диалог. Отсутствие водяного знака также не подтверждает, что текст написал человек.

Согласно исследованиям западных аналитиков, детектор считает около каждого десятого слова британских парламентариев текстом, который был создан или значительно подвергся обработке нейросетями. В оценках выступлений депутатов из Австралии и Канады такие признаки ИИ заметно чаще встречаются, чем у их британских коллег.