Fałszywie pozytywne a fałszywie negatywne wyniki w wykrywaniu obrazów AI

Definicje

Fałszywie pozytywny wynik to prawdziwe, zarejestrowane aparatem zdjęcie błędnie oznaczone jako wygenerowane przez AI lub zmanipulowane. Fałszywie negatywny wynik to wygenerowany przez AI lub zmanipulowany obraz, który nie zostaje oznaczony — przechodzi jako pozornie autentyczny.

Dlaczego istnieje ten kompromis

Uczynienie detektora bardziej agresywnym w wykrywaniu obrazów wygenerowanych przez AI (redukcja fałszywie negatywnych) zazwyczaj zwiększa odsetek nietypowych, ale prawdziwych zdjęć oznaczanych jako podejrzane (podnosząc fałszywie pozytywne), i odwrotnie. To strukturalna cecha wykrywania probabilistycznego, a nie błąd specyficzny dla jednego narzędzia.

• Mocno edytowane, ale autentyczne zdjęcia (HDR, fotografia obliczeniowa) mogą przypominać artefakty AI
• Zrzuty ekranu i ponowne przechwycenia tracą metadane, które w innym przypadku potwierdzałyby autentyczność
• Nowsze generatory mogą zmniejszać artefakty wizualne, na których polegały starsze detektory, zwiększając liczbę fałszywie negatywnych wyników do czasu aktualizacji modeli

Dlaczego kontekst determinuje, który błąd ma większe znaczenie

Platforma moderacji treści przeglądająca tysiące przesłanych plików może tolerować więcej fałszywie pozytywnych wyników (kierując autentyczne treści do weryfikacji przez człowieka), aby zminimalizować fałszywie negatywne (nie przepuszczając syntetycznych treści na dużą skalę). Osoba sprawdzająca pojedyncze zdjęcie profilowe randkowe dla własnego bezpieczeństwa może preferować odwrotną równowagę, ponieważ fałszywe oskarżenie ma bezpośredni koszt społeczny w tym kontekście.

Jak PhotoProof Labs rozwiązuje ten problem

Zamiast wybierać jeden ustalony kompromis, PhotoProof Labs podaje prawdopodobieństwo wraz z wynikiem pewności (zobacz stronę wyniku pewności), dzięki czemu wynik o niskiej pewności — gdzie nieproporcjonalnie koncentrują się zarówno fałszywie pozytywne, jak i fałszywie negatywne wyniki — jest wyraźnie oznaczony jako wymagający dalszej weryfikacji, zamiast być prezentowany z fałszywą pewnością.

Czy PhotoProof Labs może całkowicie wyeliminować fałszywie pozytywne wyniki?

Żaden detektor nie może zredukować fałszywie pozytywnych wyników do zera bez jednoczesnego zwiększenia fałszywie negatywnych. Wynik pewności PhotoProof Labs ma na celu uwidocznienie wyników o niskiej pewności, a nie wyeliminowanie leżącego u podstaw kompromisu, co nie jest możliwe dla żadnego detektora probabilistycznego.

Który typ błędu priorytetyzuje PhotoProof Labs?

Żaden nie jest ustalony jako ważniejszy — wynik pewności istnieje specjalnie po to, by użytkownicy mogli zastosować własny osąd odpowiedni do kontekstu, zamiast PhotoProof Labs podejmującego tę decyzję za każdy przypadek użycia.