Произход, удостоверения за съдържание и стандарти за доверие

Какво всъщност доказва произходът

Удостоверението за съдържание (C2PA) е криптографски подписан манифест: запис за това кой или какво е създало файл, кога, с какво устройство или инструмент, и какви редакции са направени впоследствие, всеки подписан от инструмента, направил твърдението. При наличие и потвърждаване на веригата на подписа спрямо сертификата на издаващия орган, това доказва, че твърдението е направено от този конкретен инструмент и не е било променяно от момента на подписване.

Водните знаци на ИИ (най-широко разпространеният пример е SynthID на Google DeepMind) работят по различен начин: вместо прикачен запис, те вграждат незабележим сигнал директно в генерираните пиксели в момента на генериране, проектиран да оцелее при обичайни трансформации като изрязване, повторна компресия или преобразуване на формат.

И двата механизма доказват участие, а не истина. Подписан манифест C2PA доказва, че подписващият инструмент е направил конкретно твърдение — не проверява независимо дали твърдението е точно, а само че е направено от идентифицируем, удостоверен източник и не е било подправено оттогава.

Какво произходът не може да докаже

Сигналите за произход не могат да докажат автентичност за съдържание, което никога не ги е имало прикачени, не могат да бъдат добавени със задна дата към съществуващи файлове и не могат да оцелеят при всеки реален конвейер за обработка.

• Липсващ сигнал не е доказателство за манипулация или ИИ генериране — повечето съдържание просто никога не е имало такъв прикачен
• И C2PA, и SynthID работят само когато изходният инструмент участва в конкретния стандарт; неучастваща камера, редактор или генератор не произвежда никакъв сигнал, независимо как е създадено съдържанието
• Манифестите на C2PA могат да бъдат премахнати от платформи и конвейери, които не запазват вградени метаданни — повторно качване в социални мрежи, скрийншоти и много приложения за съобщения рутинно ги премахват
• Криптографски подпис доказва кой е подписал твърдението, а не че твърдението описва реалността — компрометиран или злонамерен ключ за подписване все още би могъл да произведе валидно подписано невярно твърдение, макар това да изисква достъп, който повечето нападатели нямат
• Нито един от стандартите не оценява контекстуалната истина: дали истинска, непроменена снимка е точно надписана или използвана в правилното време и място е извън обхвата на това, което проверява който и да е от тези механизми

Защо сигналите за метаданни и произход изчезват

Огромното мнозинство от изображенията в обращение не носят сигнал за произход по обикновени, неподозрителни причини, а не поради умишлено избягване.

• Заснемащото устройство или генериращият модел предшества стандарта, или производителят не го е внедрил
• Конвейерите за качване прекодират файловете и отхвърлят вградените метаданни като рутинен, незлонамерен страничен ефект от обработката (генериране на миниатюри, преобразуване на формат, компресия)
• Скрийншотите и записите на екрана улавят само визуализираните пиксели, а не каквито и да е метаданни, които оригиналният файл е носил
• Приложенията за съобщения и някои социални платформи премахват метаданни по подразбиране, отчасти по причини за поверителност на потребителите (метаданните могат да съдържат GPS координати и идентификатори на устройства)

Кога откриването на ИИ все още е необходимо

Тъй като произходът и водните знаци са доброволни и лесно се губят при пренос, повечето изображения, които даден човек всъщност трябва да оцени — снимка от непознат източник, изображение, вече лишено от метаданни от платформата, на която е публикувано, резултат от генератор, който не вгражда воден знак — изобщо не носят проверим сигнал за произход. Универсалното откриване на ИИ съществува конкретно за този мнозинствен случай: то оценява вероятността дадено изображение да е генерирано от ИИ или манипулирано въз основа на визуалните и техническите доказателства, налични в самия файл, без да зависи от това дали някой инструмент е избрал участие в стандарт.

Как произходът и откриването се допълват

Двата подхода отговарят на различни въпроси и са най-силни, когато се използват заедно, а не като заместители един на друг.

• Когато е налице проверимо удостоверение за съдържание: то установява документирана верига на съхранение от заснемане до редактиране — най-силният наличен тип доказателство, когато съществува
• Когато не е наличен сигнал за произход (обичайният случай): откриването на ИИ, прегледът на метаданни и анализът на манипулация стават основното налично доказателство
• Двете могат също да бъдат проверявани заедно дори когато сигнал е наличен — валиден манифест на C2PA може да съществува заедно с ИИ генерирано съдържание, тъй като някои генератори сега подписват собствените си резултати; откриването и произходът проверяват различни неща, а не се конкурират за един и същ отговор

Ограничения, изразени директно

Ограничения на C2PA: внедряването все още е малцинство от общия обем изображения в обращение; стандартът зависи от избора на всеки инструмент в историята на дадено съдържание да участва и запазва веригата; премахнатите или отсъстващи удостоверения са обичайният случай, а не изключението.

Ограничения на воден знак на ИИ: идентифицира само резултати от генератори, внедрили конкретната проверявана схема на воден знак; не предоставя никакъв сигнал за неучастващи генератори, редактирани композити или по-стари методи на генериране; устойчивостта срещу умишлено премахване е активен, неразрешен изследователски въпрос, а не решен проблем.

Ограничения на метаданните като цяло: лесно се премахват, непоследователно се запазват на различни платформи и — дори когато са налични и непроменени — описват техническата история на файла, а не дали неговото съдържание или контекст са представени правдиво.

Ако изображение има валидно удостоверение за съдържание по C2PA, означава ли това, че е автентично?

Означава, че подписващият инструмент е направил конкретно, проверимо твърдение за произхода и историята на редактиране на файла, и че това твърдение не е било променяно от момента на подписване. То не проверява независимо дали твърдението е точно и не казва нищо за това дали изображението се използва в точен контекст.

Означава ли липсващ сигнал за произход, че изображение е било генерирано от ИИ или манипулирано?

Не. Повечето изображения в обращение никога не са имали прикачен сигнал за произход от самото начало, или той е бил премахнат при качване — липсващ сигнал е обичайният случай и сам по себе си не е доказателство за нищо.

Могат ли удостоверенията за съдържание по C2PA или водните знаци на SynthID да бъдат фалшифицирани?

Криптографският подпис зад удостоверението за съдържание по C2PA не може да бъде фалшифициран без частния ключ на подписващия, но удостоверението може да бъде напълно премахнато от файл (загубвайки манифеста, а не фалшифицирайки го). Устойчивостта на воден знак на SynthID срещу умишлено премахване е активна изследователска област, а не гаранция.

Защо PhotoProof Labs не разчита само на удостоверения за съдържание или воден знак?

Защото повечето изображения, срещани на практика, не носят нито един от тези сигнали. Собственият слой за преглед на метаданни на PhotoProof Labs проверява наличните сигнали за произход като един от няколко входа, но не зависи от наличието на какъвто и да е единствен стандарт за произход, тъй като това би оставило мнозинството от реалните изображения изобщо без оценка.