Какво е генеративен ИИ?

Определение

Генеративният ИИ описва категория системи за машинно обучение, обучени да произвеждат ново съдържание, наподобяващо техните тренировъчни данни, вместо само да маркират, сортират или анализират съществуващо съдържание.

Как работи генерирането на изображения

Повечето съвременни генератори на изображения са дифузионни модели, които се учат да реконструират изображения от постепенно по-зашумени версии по време на обучението и след това обръщат този процес, за да генерират нови изображения от случаен шум. По-ранните и все още използвани подходи включват GAN (генеративно-състезателни мрежи), които по време на обучението противопоставят модел-генератор на модел-дискриминатор.

• Дифузионни модели
• Генеративно-състезателни мрежи (GAN)
• Работни процеси текст-към-изображение и изображение-към-изображение

Защо това е важно за откриването

Всеки подход за генериране обикновено оставя характерни статистически и визуални следи. Системите за откриване, включително слоя за анализ на визуални модели на PhotoProof Labs, са обучени да разпознават тези следи в множество семейства генератори, а не в един модел.

Генеративният ИИ същото ли е като дийпфейк?

Не. Генеративният ИИ е по-широката технологична категория. Дийпфейкът е конкретна, фокусирана върху самоличността злоупотреба с генеративни техники или техники за синтез.

Могат ли резултатите от генеративен ИИ да бъдат надеждно открити?

Откриването е вероятностно, а не сигурно, а точността варира в зависимост от генератора, качеството на изображението и постобработката. То трябва да бъде един от входовете в по-широк процес на проверка.