Что такое генеративный ИИ?

Определение

Генеративный ИИ описывает категорию систем машинного обучения, обученных создавать новый контент, похожий на их обучающие данные, а не только маркировать, сортировать или анализировать существующий контент.

Как работает генерация изображений

Большинство современных генераторов изображений — это диффузионные модели, которые учатся восстанавливать изображения из постепенно более зашумлённых версий во время обучения, а затем обращают этот процесс, чтобы генерировать новые изображения из случайного шума. Более ранние и всё ещё используемые подходы включают GAN (генеративно-состязательные сети), которые во время обучения противопоставляют модель-генератор модели-дискриминатору.

• Диффузионные модели
• Генеративно-состязательные сети (GAN)
• Рабочие процессы текст-в-изображение и изображение-в-изображение

Почему это важно для обнаружения

Каждый подход к генерации, как правило, оставляет характерные статистические и визуальные следы. Системы обнаружения, включая уровень анализа визуальных паттернов PhotoProof Labs, обучены распознавать эти следы у нескольких семейств генераторов, а не у одной модели.

Генеративный ИИ — это то же самое, что дипфейк?

Нет. Генеративный ИИ — это более широкая технологическая категория. Дипфейк — это конкретное, сфокусированное на личности злоупотребление генеративными технологиями или техниками синтеза.

Можно ли надёжно обнаружить результаты генеративного ИИ?

Обнаружение носит вероятностный, а не достоверный характер, и точность варьируется в зависимости от генератора, качества изображения и постобработки. Это должно быть одним из вводных данных в более широком процессе проверки.