Mi az a generatív AI?

Meghatározás

A generatív AI olyan gépi tanulási rendszerek kategóriáját írja le, amelyeket arra tréningeztek, hogy a tréningadataikhoz hasonló új tartalmat hozzanak létre, ahelyett hogy csak címkéznék, rendszereznék vagy elemeznék a meglévő tartalmat.

Hogyan működik a képgenerálás

A legtöbb modern képgenerátor diffúziós modell, amely a tréning során megtanulja rekonstruálni a képeket egyre zajosabb verziókból, majd megfordítja ezt a folyamatot, hogy véletlen zajból új képeket generáljon. A korábbi és még mindig használt megközelítések közé tartoznak a GAN-ok (Generative Adversarial Networks), amelyek a tréning során egy generátormodellt állítanak szembe egy diszkriminátormodellel.

• Diffúziós modellek
• Generatív ellenséges hálózatok (GAN-ok)
• Szöveg-kép és kép-kép munkafolyamatok

Miért fontos ez az észlelés szempontjából

Minden generálási megközelítés jellemzően jellegzetes statisztikai és vizuális nyomokat hagy hátra. Az észlelőrendszereket, beleértve a PhotoProof Labs vizuálismintázat-elemző rétegét, arra tréningezik, hogy ezeket a nyomokat több generátorcsalád esetében is felismerjék, nem csupán egyetlen modellnél.

Ugyanaz a generatív AI, mint a deepfake?

Nem. A generatív AI a tágabb technológiai kategória. A deepfake a generatív vagy szintézistechnikák specifikus, identitásra fókuszáló visszaélése.

Megbízhatóan észlelhetők-e a generatív AI kimenetei?

Az észlelés valószínűségi, nem biztos jellegű, és a pontosság a generátortól, a képminőségtől és az utófeldolgozástól függően változik. Egy tágabb ellenőrzési folyamat egyik bemenetének kell lennie.