Сигнали походження ШІ: SynthID, C2PA і межі виявлення на основі водяних знаків

Що таке C2PA (Content Credentials)

C2PA — це відкритий технічний стандарт, розроблений коаліцією Coalition for Content Provenance and Authenticity, для додавання криптографічно підписаного запису про походження файлу та історію його редагування. За наявності та незмінності Content Credential може показати, яким пристроєм або інструментом було створено файл і які правки було внесено.

Що таке SynthID

SynthID, розроблений Google DeepMind, вбудовує непомітний цифровий водяний знак безпосередньо в пікселі, створені моделями-учасницями, спроєктований так, щоб залишатися виявним після типових перетворень, як-от обрізання чи повторне стиснення.

Чого ці сигнали не можуть

Обидва сигнали повністю залежать від участі: C2PA вимагає, щоб інструмент зйомки чи редагування підписав файл; SynthID вимагає, щоб генерувальна модель вбудувала водяний знак. Жоден із сигналів не додається заднім числом до контенту від інструмента, який не бере участі, і обидва можуть бути видалені платформами, які не зберігають метадані під час обробки. Відсутність будь-якого із сигналів — звичайна справа і сама собою неінформативна: це не доказ маніпуляції чи генерації ШІ.

• Має значення лише тоді, коли інструмент-джерело бере участь у стандарті
• Може бути видалено конвеєрами завантаження, які не зберігають вбудовані дані
• Доводить, що заяву було зроблено і підписано, — а не те, що заява правдива

Чому універсальне виявлення досі важливе

Оскільки більшість зображень в обігу — з камер, які не беруть участі, старих пристроїв, генераторів, які не беруть участі, або платформ, що видаляють метадані, — не несуть жодного із сигналів, стандарти походження та універсальне виявлення ШІ доповнюють одне одного, а не конкурують: походження доводить джерело, коли воно присутнє; виявлення оцінює ймовірність, коли його немає.

Чи означає відсутність credential C2PA, що зображення підроблене?

Ні. У більшості зображень його ніколи не було прикріплено або його було видалено під час завантаження — відсутній credential — звичайна справа і сама собою неінформативна.

Чи може SynthID виявляти зображення від будь-якого ШІ-генератора?

Ні. Він може ідентифікувати лише контент від моделей, які вбудовують водяний знак у момент генерації. Зображення від генератора, який не бере участі, не покаже сигналу SynthID, незалежно від того, як його було створено.

Чи перевіряє PhotoProof Labs наявність цих сигналів?

Шар аналізу метаданих PhotoProof Labs перевіряє доступне походження та вбудовані метадані як одну з п'яти ознак доказу — див. сторінку про прийняття рішень на основі кількох сигналів — але не залежить від наявності якогось одного стандарту походження.