Sygnały proweniencji AI: SynthID, C2PA i granice wykrywania opartego na znakach wodnych

Czym jest C2PA (Content Credentials)

C2PA to otwarty standard techniczny, opracowany przez Coalition for Content Provenance and Authenticity, służący do dołączania kryptograficznie podpisanego zapisu pochodzenia pliku i historii jego edycji. Gdy jest obecny i niezmieniony, Content Credential może pokazać, jakie urządzenie lub narzędzie utworzyło plik i jakie edycje zostały zastosowane.

Czym jest SynthID

SynthID, opracowany przez Google DeepMind, osadza niewyczuwalny cyfrowy znak wodny bezpośrednio w pikselach generowanych przez uczestniczące modele, zaprojektowany tak, by pozostawał wykrywalny po typowych przekształceniach, takich jak przycinanie czy ponowna kompresja.

Czego te sygnały nie mogą zrobić

Oba sygnały całkowicie zależą od uczestnictwa: C2PA wymaga, aby narzędzie rejestrujące lub edytujące podpisało plik; SynthID wymaga, aby model generujący osadził znak wodny. Żaden z sygnałów nie jest dodawany wstecznie do treści z nieuczestniczącego narzędzia, a oba mogą zostać usunięte przez platformy, które nie zachowują metadanych podczas przetwarzania. Brak któregokolwiek z sygnałów jest częsty i sam w sobie mało informacyjny — nie jest dowodem manipulacji ani generowania przez AI.

• Ma znaczenie tylko wtedy, gdy narzędzie źródłowe uczestniczy w standardzie
• Może zostać usunięty przez procesy przesyłania, które nie zachowują osadzonych danych
• Dowodzi, że oświadczenie zostało złożone i podpisane — a nie że jest prawdziwe

Dlaczego uniwersalne wykrywanie nadal ma znaczenie

Ponieważ większość obrazów w obiegu — z nieuczestniczących aparatów, starszych urządzeń, nieuczestniczących generatorów lub platform usuwających metadane — nie niesie żadnego z tych sygnałów, standardy proweniencji i uniwersalne wykrywanie AI wzajemnie się uzupełniają, a nie konkurują: proweniencja dowodzi pochodzenia, gdy jest obecna; wykrywanie szacuje prawdopodobieństwo, gdy jej nie ma.

Czy brak poświadczenia C2PA oznacza, że obraz jest fałszywy?

Nie. Większość obrazów nigdy go nie miała lub zostało ono usunięte podczas przesyłania — brakujące poświadczenie jest częste i samo w sobie mało informacyjne.

Czy SynthID może wykrywać obrazy z dowolnego generatora AI?

Nie. Może identyfikować wyłącznie treści z modeli, które osadzają znak wodny w momencie generowania. Obraz z nieuczestniczącego generatora nie wykaże sygnału SynthID, niezależnie od tego, jak został utworzony.

Czy PhotoProof Labs sprawdza obecność tych sygnałów?

Warstwa analizy metadanych PhotoProof Labs sprawdza dostępną proweniencję i osadzone metadane jako jeden z pięciu sygnałów dowodowych — zobacz stronę o podejmowaniu decyzji na podstawie wielu sygnałów — ale nie zależy od obecności jednego konkretnego standardu proweniencji.