OpenAI внедряет новые цифровые водяные знаки для борьбы с ИИ-подделками

Компания OpenAI объявила о внедрении системы подтверждения происхождения контента во всей своей экосистеме создания изображений. Теперь графика, созданная искусственным интеллектом, будет помечаться специальными идентификаторами, которые крайне сложно удалить или обойти.

Ключевые нововведения

• Использование метаданных стандарта C2PA и технологии SynthID от Google DeepMind.
• Внедрение скрытых пиксельных сигналов, которые помогают распознать ИИ-генерации.
• Запуск общедоступного инструмента для проверки подлинности контента.

Разметка ИИ-контента не является абсолютно новой практикой: OpenAI и другие разработчики начали внедрять метаданные в файлы еще в 2024 году. Однако главной проблемой оставалась уязвимость таких меток — их было легко удалить. В обновленной системе OpenAI значительно усилила безопасность идентификации с помощью современных технологических решений.

Стеганография и скрытые сигналы

В основе новой защиты лежит принцип стеганографии — метода скрытия информации внутри объекта, который при этом выглядит обычным. Этот подход известен более двух тысяч лет. Еще в 440 году до н. э. для передачи секретных сообщений использовали татуировки на выбритых головах гонцов, которые скрывались после отрастания волос. В цифровых изображениях стеганография позволяет встраивать данные среди миллионов пикселей так, что человеческий глаз их не видит, а инструменты обнаружения считывают безошибочно.

До настоящего времени метаданные в изображениях от DALL-E 3 или Sora исчезали при создании обычного скриншота. Снимок экрана фиксирует только пиксели, отсекая скрытую техническую информацию файла. Именно эту проблему OpenAI пытается решить совместно с Google.

Стандарты C2PA и технология SynthID

OpenAI стала официальным участником программы соответствия C2PA (Коалиция за происхождение и подлинность контента). Это гарантирует, что метаданные изображений теперь стандартизированы и защищены. Все изображения, генерируемые через ChatGPT и API OpenAI, содержат эти сигналы.

Однако главным инструментом защиты стал SynthID — технология от Google DeepMind. Несмотря на конкуренцию, OpenAI интегрировала этот механизм во все свои продукты. SynthID встраивает невидимый водяной знак непосредственно в пиксельную сетку в момент генерации. В отличие от обычных метаданных, этот сигнал сохраняется даже после:

• изменения размера изображения;
• кадрирования (обрезки краев);
• сжатия файла или изменения цветопередачи;
• создания скриншота.

Цифровая подпись «впекается» во все изображение целиком, а не находится в каком-то одном углу, что делает маркировку максимально устойчивой к попыткам её скрыть.

Инструмент для публичной проверки

Одновременно с техническим обновлением OpenAI запускает публичный веб-инструмент. Любой пользователь сможет загрузить подозрительный файл и проверить, был ли он создан с помощью нейросетей компании. В обзорах отмечается, что пока неясно, как система будет реагировать на коллажи, где ИИ-фрагмент является лишь частью реальной фотографии, но запуск инструмента называют важным шагом к прозрачности.

В компании подчеркивают, что ни одна технология защиты не эффективна в одиночку. Только сочетание открытых стандартов, устойчивых водяных знаков и доступных инструментов верификации позволит создать надежную экосистему в долгосрочной перспективе.

Следить за обновлениями проекта можно в социальных сетях, включая Twitter/X, Facebook* и Instagram*.

* — деятельность компании запрещена на территории РФ