Сигнали за произход на ИИ: SynthID, C2PA и границите на откриването чрез водни знаци

Какво е C2PA (удостоверения за съдържание)

C2PA е отворен технически стандарт, разработен от коалицията Coalition for Content Provenance and Authenticity, за прикрепяне на криптографски подписан запис за произхода на файл и историята на редактирането му. Когато е налично и непроменено, удостоверението за съдържание може да покаже какво устройство или инструмент е създал файла и какви редакции са приложени.

Какво е SynthID

SynthID, разработен от Google DeepMind, вгражда незабележим цифров воден знак директно в пикселите, генерирани от участващи модели, проектиран да остава откриваем след обичайни трансформации като изрязване или повторна компресия.

Какво не могат тези сигнали

И двата сигнала напълно зависят от участието: C2PA изисква инструментът за заснемане или редактиране да подпише файла; SynthID изисква генериращият модел да вгради водния знак. Нито един от сигналите не се добавя със задна дата към съдържание от неучастващ инструмент, и двата могат да бъдат премахнати от платформи, които не запазват метаданните при обработка. Липсата на който и да е от сигналите е обичайна и сама по себе си неинформативна — тя не е доказателство за манипулация или генериране от ИИ.

• Има значение само когато инструментът източник участва в стандарта
• Може да бъде премахнат от процеси за качване, които не запазват вградените данни
• Доказва, че твърдение е било направено и подписано — а не че твърдението е вярно

Защо универсалното откриване все още има значение

Тъй като повечето изображения в обращение — от неучастващи камери, по-стари устройства, неучастващи генератори или платформи, премахващи метаданни — не носят нито един от сигналите, стандартите за произход и универсалното откриване от ИИ се допълват, а не се конкурират: произходът доказва източника, когато е наличен; откриването оценява вероятността, когато не е.

Означава ли липсващо удостоверение за съдържание по C2PA, че изображението е фалшиво?

Не. Повечето изображения никога не са го имали или то е било премахнато при качване — липсващото удостоверение е обичайно и само по себе си неинформативно.

Може ли SynthID да открива изображения от всеки ИИ генератор?

Не. Той може да идентифицира само съдържание от модели, които вграждат водния знак в момента на генериране. Изображение от неучастващ генератор няма да покаже сигнал SynthID, независимо как е създадено.

Проверява ли PhotoProof Labs за тези сигнали?

Слоят за преглед на метаданни на PhotoProof Labs проверява наличния произход и вградените метаданни като един от пет сигнала за доказателство — вижте страницата за вземане на решения въз основа на множество сигнали — но не зависи от наличието на конкретен стандарт за произход.