Proweniencja, Content Credentials i standardy zaufania

Co proweniencja naprawdę udowadnia

Content Credential (C2PA) to kryptograficznie podpisany manifest: zapis tego, kto lub co utworzyło plik, kiedy, jakim urządzeniem lub narzędziem, i jakie edycje zostały następnie zastosowane, podpisany przez narzędzie, które złożyło oświadczenie. Gdy jest obecny, a łańcuch podpisu weryfikuje się względem certyfikatu wystawiającego urzędu, dowodzi to, że oświadczenie złożyło to konkretne narzędzie i nie zostało zmienione od momentu podpisania.

Znaki wodne AI (najszerzej stosowanym przykładem jest SynthID od Google DeepMind) działają inaczej: zamiast dołączonego zapisu osadzają niewyczuwalny sygnał bezpośrednio w wygenerowanych pikselach w momencie generowania, zaprojektowany tak, by przetrwać typowe przekształcenia, takie jak przycinanie, ponowną kompresję czy konwersję formatu.

Oba mechanizmy dowodzą uczestnictwa, a nie prawdy. Podpisany manifest C2PA dowodzi, że podpisujące narzędzie złożyło konkretne oświadczenie — nie weryfikuje niezależnie, czy oświadczenie jest dokładne, a jedynie że złożyło je możliwe do zidentyfikowania, uwierzytelnione źródło i nie zostało od tamtej pory sfałszowane.

Czego proweniencja nie może udowodnić

Sygnały proweniencji nie mogą udowodnić autentyczności treści, do których nigdy ich nie dołączono, nie mogą zostać dodane wstecznie do istniejących plików i nie przetrwają każdego rzeczywistego procesu przetwarzania.

• Brak sygnału nie jest dowodem manipulacji ani generowania przez AI — większość treści po prostu nigdy go nie miała
• Zarówno C2PA, jak i SynthID działają tylko wtedy, gdy narzędzie źródłowe uczestniczy w danym standardzie; nieuczestniczący aparat, edytor lub generator w ogóle nie tworzy sygnału, niezależnie od tego, jak powstała treść
• Manifesty C2PA mogą zostać usunięte przez platformy i procesy, które nie zachowują osadzonych metadanych — ponowne przesyłanie w mediach społecznościowych, zrzuty ekranu i wiele aplikacji do przesyłania wiadomości rutynowo je usuwa
• Podpis kryptograficzny dowodzi, kto podpisał oświadczenie, a nie że oświadczenie opisuje rzeczywistość — skompromitowany lub złośliwy klucz podpisujący mógłby nadal wytworzyć ważnie podpisane fałszywe oświadczenie, choć wymaga to dostępu, którego większość atakujących nie ma
• Żaden ze standardów nie ocenia prawdy kontekstowej: czy autentyczne, niezmienione zdjęcie ma dokładny podpis lub jest używane we właściwym czasie i miejscu, pozostaje poza tym, co sprawdza którykolwiek z tych mechanizmów

Dlaczego sygnały metadanych i proweniencji znikają

Zdecydowana większość obrazów w obiegu nie niesie sygnału proweniencji z powodów zwyczajnych, niepodejrzanych, a nie celowego unikania.

• Urządzenie rejestrujące lub model generujący powstały przed standardem, albo producent go nie wdrożył
• Procesy przesyłania ponownie kodują pliki i odrzucają osadzone metadane jako rutynowy, niezłośliwy efekt uboczny przetwarzania (generowanie miniatur, konwersja formatu, kompresja)
• Zrzuty ekranu i nagrania ekranu przechwytują tylko wyrenderowane piksele, a nie jakiekolwiek metadane oryginalnego pliku
• Aplikacje do przesyłania wiadomości i niektóre platformy społecznościowe domyślnie usuwają metadane, częściowo ze względu na prywatność użytkowników (metadane mogą zawierać współrzędne GPS i identyfikatory urządzeń)

Kiedy wykrywanie AI jest nadal potrzebne

Ponieważ proweniencja i znaki wodne są opcjonalne i łatwo tracone podczas przesyłania, większość obrazów, które dana osoba faktycznie musi ocenić — zdjęcie z nieznanego źródła, obraz już pozbawiony metadanych przez platformę, na której został opublikowany, wynik generatora, który nie osadza znaku wodnego — w ogóle nie niesie weryfikowalnego sygnału proweniencji. Uniwersalne wykrywanie AI istnieje właśnie dla tego większościowego przypadku: szacuje prawdopodobieństwo, że obraz został wygenerowany przez AI lub zmanipulowany, na podstawie dowodów wizualnych i technicznych dostępnych w samym pliku, niezależnie od tego, czy jakiekolwiek narzędzie przystąpiło do standardu.

Jak proweniencja i wykrywanie się uzupełniają

Te dwa podejścia odpowiadają na różne pytania i są najskuteczniejsze stosowane razem, a nie jako wzajemne zastępstwo.

• Gdy obecny jest weryfikowalny Content Credential: ustanawia udokumentowany łańcuch dowodowy od rejestracji do edycji — najsilniejszy dostępny rodzaj dowodu, gdy istnieje
• Gdy brak sygnału proweniencji (przypadek częsty): wykrywanie AI, przegląd metadanych i analiza manipulacji stają się głównym dostępnym dowodem
• Oba można też sprawdzać razem, nawet gdy sygnał jest obecny — ważny manifest C2PA może współistnieć z treścią wygenerowaną przez AI, ponieważ niektóre generatory podpisują teraz własne wyniki; wykrywanie i proweniencja sprawdzają różne rzeczy, nie konkurują o tę samą odpowiedź

Ograniczenia, wyrażone wprost

Ograniczenia C2PA: wdrożenie wciąż stanowi mniejszość całkowitego wolumenu obrazów w obiegu; standard zależy od tego, czy każde narzędzie w historii treści zdecyduje się uczestniczyć i zachować łańcuch; usunięte lub nieobecne poświadczenia są przypadkiem częstym, a nie wyjątkiem.

Ograniczenia znaków wodnych AI: identyfikują wyłącznie wyniki generatorów wdrażających konkretny schemat znaku wodnego; nie dają żadnego sygnału dla nieuczestniczących generatorów, edytowanych kompozycji ani starszych metod generowania; odporność na celowe usunięcie to aktywne, nierozstrzygnięte zagadnienie badawcze, a nie rozwiązany problem.

Ograniczenia metadanych ogólnie: łatwo usuwalne, niespójnie zachowywane na różnych platformach i — nawet gdy obecne i niezmienione — opisują historię techniczną pliku, a nie to, czy jego treść lub kontekst są przedstawione zgodnie z prawdą.

Jeśli obraz ma ważne poświadczenie C2PA, czy oznacza to, że jest autentyczny?

Oznacza to, że podpisujące narzędzie złożyło konkretne, weryfikowalne oświadczenie o pochodzeniu pliku i historii edycji, i że to oświadczenie nie zostało zmienione od podpisania. Nie weryfikuje to niezależnie, czy oświadczenie jest dokładne, i nic nie mówi o tym, czy obraz jest używany w dokładnym kontekście.

Czy brak sygnału proweniencji oznacza, że obraz został wygenerowany przez AI lub zmanipulowany?

Nie. Większość obrazów w obiegu nigdy od początku nie miała dołączonego sygnału proweniencji, albo został on usunięty podczas przesyłania — brak sygnału jest przypadkiem częstym i sam w sobie nie jest dowodem niczego.

Czy poświadczenia C2PA lub znaki wodne SynthID można sfałszować?

Podpisu kryptograficznego stojącego za poświadczeniem C2PA nie można sfałszować bez klucza prywatnego podpisującego, ale poświadczenie można całkowicie usunąć z pliku (tracąc manifest, a nie go fałszując). Odporność znaku wodnego SynthID na celowe usunięcie to aktywny obszar badań, a nie gwarancja.

Dlaczego PhotoProof Labs nie polega wyłącznie na Content Credentials lub znakach wodnych?

Ponieważ większość obrazów spotykanych w praktyce nie niesie żadnego z tych sygnałów. Własna warstwa przeglądu metadanych PhotoProof Labs sprawdza dostępne sygnały proweniencji jako jeden z kilku elementów wejściowych — zobacz stronę metodologii — ale nie zależy od obecności jednego konkretnego standardu proweniencji, ponieważ pozostawiłoby to większość rzeczywistych obrazów bez jakiejkolwiek oceny.