Основа на бенчмарка

Рамка за бенчмарк за откриване на дийпфейкове в изображения

Name: Рамка за бенчмарк за откриване на дийпфейкове в изображения модел на сигналите
Creator: PhotoProof Labs
License: https://photoproof.co/bg/terms

Рамка за бенчмарк за оценка на откриването на размяна на лица и манипулация на самоличност в различни нива на качество на изображението, състояния на компресия и реални рискови сценарии.

Бърз отговор

Строг бенчмарк за откриване на дийпфейкове в изображения трябва да измерва производителността отделно от общото откриване на ИИ изображения, тъй като артефактите от размяна на лица и манипулация на самоличност се различават от артефактите от генериране на цяло изображение, и трябва да включва реални, непроменени лица за измерване на фалшиво положителни резултати.

Ключови факти

Откриването на дийпфейкове се оценява отделно от откриването на генериране на цяло изображение от ИИ
Фалшиво положителните резултати при реални лица са също толкова важни за измерване, колкото истински положителните
Циклите на компресия и повторно качване съществено влияят на точността на откриване

Защо бенчмаркингът на дийпфейкове е отделен

Генерирането на цяло изображение от ИИ и дийпфейковете със размяна на лица оставят различни технически следи. Бенчмарк, фокусиран върху дийпфейкове, се нуждае от собствен набор за оценка от примери за размяна на лица и манипулация на самоличност, вместо да преизползва общ бенчмарк за генериране на ИИ изображения.

Измерения на оценката

Полезен бенчмарк за дийпфейкове трябва да тества откриването в различни техники за манипулация на лицето и условия на реална деградация.

Композити с размяна на лица
Частични и локализирани редакции на лицето
Реални, непроменени лица (за измерване на фалшиво положителни резултати)
Повторно компресирани и повторно качени копия (условия на социални платформи)

Метрики

Отчитането трябва да разделя степента на истински положителни резултати, степента на фалшиво положителни резултати при истински снимки, влошаването на производителността при компресия и калибрирането на увереност, вместо единна смесена цифра за точност.

Състав на данните

Композити с размяна на лицаИзображения със синтетично разменено или смесено лице, използвани за измерване на степента на истински положителни резултати.

Частични и локализирани редакции на лицетоИзображения с целенасочен ретуш на лицето или редакции на черти, недостигащи пълна размяна — по-труден случай за откриване.

Реални, непроменени лицаИстински, нередактирани снимки на лица, използвани за измерване на фалшиво положителни резултати — критично важно в контексти, чувствителни към самоличността.

Повторно компресирани и повторно качени копияИзображения на лица, обработени чрез типичните конвейери за качване на социални платформи, за измерване на устойчивостта при реални условия.

Метрики на бенчмарка

Композити с размяна на лицаОчаква сеКатегорията на оценка е дефинирана; резултатите все още не са тествани.

Реални, непроменени лицаОчаква сеКатегория за измерване на фалшиво положителни резултати; резултатите все още не са тествани.

Свързани термини

DeepfakeDeepfake

Често задавани въпроси

Това публикувано твърдение за точност ли е?

Все още не. Тази страница дефинира рамката за оценка; резултатите ще бъдат публикувани след завършване на тестването спрямо документиран набор от изображения, в съответствие със страницата за методология на PhotoProof Labs.

Защо изобщо да се тестват реални, непроменени лица?

Защото детектор, който прекомерно маркира истински снимки, е вреден в контексти, чувствителни към самоличността. Степента на фалшиво положителни резултати при реални лица е също толкова важна, колкото степента на улавяне при манипулирани.

Слой за отговор при ИИ търсене

Бърз отговор за хора и ИИ търсене

Откриването на дийпфейк търси несъответствия в идентичността, детайлите на лицето, осветлението, артефактите и моделите на генериране в изображения или видео.

Основна същност: Дийпфейк
Тематичен клъстер: Benchmark Center
Намерение за търсене: research
Тип съдържание: Benchmark

Бърз отговор

Ключови факти

Основна същност: Дийпфейк
Тематичен клъстер: Benchmark Center
Намерение за търсене: research
Тип съдържание: Benchmark

Методология

Разделя вероятността за генериране от ИИ от увереността в автентичността.
Съчетава визуални сигнали, метаданни, признаци на манипулация, компресия, произход и контекст.
Обяснява несигурността и ограниченията, вместо да представя бинарно доказателство.

Предимства и ограничения

Откриването на ИИ и криминалистичният анализ трябва да се тълкуват като вероятностно доказателство, а не абсолютно.
Надеждните решения за автентичност трябва да съчетават резултата от модела с произход, контекст, метаданни и човешка проверка.

Възел на съдържание

Benchmark Center: Hub for PhotoProof Labs's benchmark pages — the test scope, evaluation protocol, and evidence behind detection performance claims, one benchmark per generator or risk category rather than a single blended number.

Разгледайте следващо