Сигналы происхождения ИИ: SynthID, C2PA и пределы обнаружения на основе водяных знаков

Что такое C2PA (Content Credentials)

C2PA — это открытый технический стандарт, разработанный коалицией Coalition for Content Provenance and Authenticity, для прикрепления криптографически подписанной записи о происхождении файла и истории его редактирования. При наличии и неизменности Content Credential может показать, каким устройством или инструментом был создан файл и какие правки были внесены.

Что такое SynthID

SynthID, разработанный Google DeepMind, встраивает незаметный цифровой водяной знак непосредственно в пиксели, созданные участвующими моделями, спроектированный так, чтобы оставаться обнаружимым после типичных преобразований, таких как обрезка или повторное сжатие.

Чего эти сигналы не могут

Оба сигнала полностью зависят от участия: C2PA требует, чтобы инструмент съёмки или редактирования подписал файл; SynthID требует, чтобы генерирующая модель встроила водяной знак. Ни один из сигналов не добавляется задним числом к контенту от неучаствующего инструмента, и оба могут быть удалены платформами, которые не сохраняют метаданные при обработке. Отсутствие любого из сигналов — обычное дело и само по себе неинформативно: это не доказательство манипуляции или генерации ИИ.

• Имеет значение только тогда, когда инструмент-источник участвует в стандарте
• Может быть удалено конвейерами загрузки, не сохраняющими встроенные данные
• Доказывает, что заявление было сделано и подписано, — а не то, что заявление истинно

Почему универсальное обнаружение всё ещё важно

Поскольку большинство изображений в обращении — с неучаствующих камер, старых устройств, неучаствующих генераторов или платформ, удаляющих метаданные, — не несут ни одного из сигналов, стандарты происхождения и универсальное обнаружение ИИ дополняют друг друга, а не конкурируют: происхождение доказывает источник, когда оно присутствует; обнаружение оценивает вероятность, когда его нет.

Означает ли отсутствие credential C2PA, что изображение поддельное?

Нет. У большинства изображений он никогда не был прикреплён или был удалён при загрузке — отсутствующий credential — обычное дело и само по себе неинформативно.

Может ли SynthID обнаруживать изображения от любого ИИ-генератора?

Нет. Он может идентифицировать только контент от моделей, которые встраивают водяной знак в момент генерации. Изображение от неучаствующего генератора не покажет сигнала SynthID, независимо от того, как оно было создано.

Проверяет ли PhotoProof Labs наличие этих сигналов?

Слой анализа метаданных PhotoProof Labs проверяет доступное происхождение и встроенные метаданные как один из пяти признаков доказательства — см. страницу о принятии решений на основе нескольких сигналов — но не зависит от наличия какого-либо одного стандарта происхождения.