Eredet, Content Credentials és bizalmi szabványok

Mit bizonyít valójában az eredet

Egy Content Credential (C2PA) egy kriptográfiailag aláírt manifeszt: nyilvántartás arról, hogy ki vagy mi hozta létre a fájlt, mikor, milyen eszközzel vagy szoftverrel, és milyen szerkesztéseket alkalmaztak azt követően, mindegyiket az állítást tevő eszköz aláírásával. Ha jelen van, és az aláírási lánc ellenőrizhető a kiadó hatóság tanúsítványával szemben, ez bizonyítja, hogy az állítást az adott konkrét eszköz tette, és az aláírás óta nem módosították.

Az AI vízjelezés (a legszélesebb körben elterjedt példa a Google DeepMind SynthID-je) másképp működik: csatolt nyilvántartás helyett egy érzékelhetetlen jelet ágyaz be közvetlenül a generált pixelekbe a generálás pillanatában, úgy tervezve, hogy túlélje az olyan gyakori átalakításokat, mint a vágás, az újratömörítés vagy a formátumkonverzió.

Mindkét mechanizmus a részvételt bizonyítja, nem az igazságot. Egy aláírt C2PA manifeszt bizonyítja, hogy az aláíró eszköz egy konkrét állítást tett — nem erősíti meg függetlenül, hogy az állítás pontos-e, csak azt, hogy azt egy azonosítható, hitelesített forrás tette, és azóta nem manipulálták.

Mit nem tud bizonyítani az eredet

Az eredetjelek nem bizonyíthatják a hitelességet olyan tartalomnál, amelyhez soha nem csatoltak ilyet, nem adhatók hozzá visszamenőlegesen meglévő fájlokhoz, és nem élhetnek túl minden valós feldolgozási folyamatot.

• A hiányzó jel nem bizonyítéka a manipulációnak vagy az AI-generálásnak — a legtöbb tartalomnak egyszerűen soha nem volt ilyen csatolva
• Mind a C2PA, mind a SynthID csak akkor működik, ha a forráseszköz részt vesz az adott konkrét szabványban; egy nem részt vevő kamera, szerkesztő vagy generátor egyáltalán nem hoz létre jelet, függetlenül attól, hogyan készült a tartalom
• A C2PA manifesztek eltávolíthatók olyan platformok és folyamatok által, amelyek nem őrzik meg a beágyazott metaadatokat — a közösségimédia-újrafeltöltések, a képernyőképek és sok üzenetküldő alkalmazás rutinszerűen eltávolítja azokat
• Egy kriptográfiai aláírás bizonyítja, ki írta alá az állítást, nem azt, hogy az állítás a valóságot írja le — egy kompromittált vagy rosszindulatú aláíró kulcs még mindig előállíthat egy érvényesen aláírt hamis állítást, bár ez olyan hozzáférést igényel, amellyel a legtöbb támadó nem rendelkezik
• Egyik szabvány sem értékeli a kontextuális igazságot: hogy egy valódi, változatlan fényképet pontosan feliratoztak-e, vagy a megfelelő időben és helyen használták-e, azon kívül esik, amit bármelyik mechanizmus ellenőriz

Miért tűnnek el a metaadat- és eredetjelek

A forgalomban lévő képek túlnyomó többsége nem hordoz eredetjelet hétköznapi, nem gyanús okokból, nem szándékos elkerülés miatt.

• A rögzítő eszköz vagy a generáló modell megelőzi a szabványt, vagy a gyártó nem valósította meg azt
• A feltöltési folyamatok újrakódolják a fájlokat, és a feldolgozás (bélyegkép-generálás, formátumkonverzió, tömörítés) rutinszerű, nem rosszindulatú mellékhatásaként eldobják a beágyazott metaadatokat
• A képernyőképek és képernyőfelvételek csak a megjelenített pixeleket rögzítik, nem az eredeti fájl bármely metaadatát
• Az üzenetküldő alkalmazások és néhány közösségi platform alapértelmezés szerint eltávolítja a metaadatokat, részben felhasználói adatvédelmi okokból (a metaadat GPS-koordinátákat és eszközazonosítókat tartalmazhat)

Mikor van még mindig szükség AI-észlelésre

Mivel az eredet és a vízjelezés opcionális, és könnyen elveszik átvitel közben, a legtöbb kép, amelyet valakinek ténylegesen értékelnie kell — egy fénykép ismeretlen forrásból, egy kép, amelyet már megfosztott a metaadatoktól az a platform, amelyre feltöltötték, egy vízjelet nem beágyazó generátor kimenete — egyáltalán nem hordoz ellenőrizhető eredetjelet. Az általános célú AI-észlelés kifejezetten erre a többségi esetre létezik: a fájlban magában rendelkezésre álló vizuális és technikai bizonyítékok alapján megbecsüli annak valószínűségét, hogy egy kép AI-generált vagy manipulált, anélkül hogy bármely eszköz szabványhoz való csatlakozásától függne.

Hogyan egészítik ki egymást az eredet és az észlelés

A két megközelítés más kérdésekre válaszol, és a legerősebbek együtt alkalmazva, nem egymás helyettesítőjeként.

• Amikor ellenőrizhető Content Credential van jelen: dokumentált láncot állapít meg a rögzítéstől a szerkesztésig — a legerősebb elérhető bizonyítéktípus, ha létezik
• Amikor nincs jelen eredetjel (a gyakori eset): az AI-észlelés, a metaadat-felülvizsgálat és a manipulációelemzés válik az elsődleges elérhető bizonyítékká
• A kettő akkor is együtt ellenőrizhető, ha jel van jelen — egy érvényes C2PA manifeszt együtt létezhet AI-generált tartalommal, mivel egyes generátorok mostanra aláírják saját kimeneteiket; az észlelés és az eredet különböző dolgokat ellenőriz, nem versengenek ugyanazért a válaszért

Korlátozások, közvetlenül kimondva

A C2PA korlátozásai: az elterjedtség még mindig a forgalomban lévő teljes képmennyiség kisebbségét teszi ki; a szabvány attól függ, hogy egy tartalom történetében minden eszköz úgy dönt-e, hogy részt vesz és megőrzi a láncot; az eltávolított vagy hiányzó hitelesítő adatok a gyakori eset, nem a kivétel.

Az AI vízjelezés korlátozásai: csak azokat a generátorokból származó kimeneteket azonosítja, amelyek megvalósítják a konkrét vízjelezési sémát; egyáltalán nem ad jelet a nem részt vevő generátorokhoz, szerkesztett kompozitokhoz vagy régebbi generálási módszerekhez; az ellenséges eltávolítással szembeni robusztusság aktív, megoldatlan kutatási kérdés, nem megoldott probléma.

A metaadatok korlátozásai általánosságban: könnyen eltávolíthatók, platformonként inkonzisztensen megőrzöttek, és — még ha jelen vannak és módosítatlanok is — a fájl technikai előzményeit írják le, nem azt, hogy tartalmát vagy kontextusát hűen ábrázolják-e.

Ha egy képnek érvényes C2PA hitelesítő adata van, ez azt jelenti, hogy hiteles?

Azt jelenti, hogy az aláíró eszköz konkrét, ellenőrizhető állítást tett a fájl eredetéről és szerkesztési előzményeiről, és hogy ez az állítás nem változott az aláírás óta. Nem erősíti meg függetlenül, hogy az állítás pontos, és semmit nem mond arról, hogy a képet pontos kontextusban használják-e.

A hiányzó eredetjel azt jelenti, hogy egy képet AI generált vagy manipuláltak?

Nem. A forgalomban lévő képek többségének eleve soha nem volt csatolt eredetjele, vagy azt feltöltéskor eltávolították — a hiányzó jel a gyakori eset, és önmagában nem bizonyítéka semminek.

Meghamisíthatók a C2PA hitelesítő adatok vagy a SynthID vízjelek?

A C2PA hitelesítő adat mögötti kriptográfiai aláírás nem hamisítható meg az aláíró privát kulcsa nélkül, de egy hitelesítő adat teljesen eltávolítható egy fájlból (elveszítve a manifesztet, nem meghamisítva azt). A SynthID vízjel szándékos eltávolítással szembeni robusztussága aktív kutatási terület, nem garancia.

Miért nem támaszkodik a PhotoProof Labs kizárólag a Content Credentials-re vagy a vízjelezésre?

Mert a gyakorlatban előforduló képek többsége egyik jelet sem hordozza. A PhotoProof Labs saját metaadat-felülvizsgálati rétege az elérhető eredetjeleket több bemenet egyikeként ellenőrzi, de nem függ attól, hogy egyetlen konkrét eredetszabvány jelen van-e, mivel ez a valós képek többségét teljesen értékelés nélkül hagyná.