Походження, Content Credentials та стандарти довіри

Що насправді доводить походження

Content Credential (C2PA) — це криптографічно підписаний маніфест: запис про те, хто чи що створило файл, коли, яким пристроєм чи інструментом, і які правки було згодом внесено, підписаний інструментом, який зробив заяву. За наявності та підтвердження ланцюга підпису за сертифікатом органу, що видав, це доводить, що заяву зробив саме цей інструмент і вона не змінювалася з моменту підписання.

Водяні знаки ШІ (найпоширеніший приклад — SynthID від Google DeepMind) працюють інакше: замість прикріпленого запису вони вбудовують непомітний сигнал безпосередньо в згенеровані пікселі в момент генерації, спроєктований так, щоб пережити типові перетворення, як-от обрізання, повторне стиснення чи зміну формату.

Обидва механізми доводять участь, а не істинність. Підписаний маніфест C2PA доводить, що інструмент-підписант зробив конкретну заяву — він не перевіряє незалежно, чи точна ця заява, а лише те, що її зробило ідентифіковане, автентифіковане джерело і вона не підроблена відтоді.

Чого походження не може довести

Сигнали походження не можуть довести автентичність контенту, до якого вони ніколи не були прикріплені, не можуть бути додані заднім числом до наявних файлів і не можуть пережити будь-який реальний конвеєр обробки.

• Відсутній сигнал не є доказом маніпуляції чи генерації ШІ — більшість контенту просто ніколи його не мала
• І C2PA, і SynthID працюють лише тоді, коли інструмент-джерело бере участь у цьому конкретному стандарті; камера, редактор чи генератор, які не беруть участі, взагалі не створюють сигналу, незалежно від того, як було створено контент
• Маніфести C2PA можуть бути видалені платформами та конвеєрами, які не зберігають вбудовані метадані — повторне завантаження в соцмережі, скриншоти та багато месенджерів регулярно їх видаляють
• Криптографічний підпис доводить, хто підписав заяву, а не те, що заява описує реальність — скомпрометований або зловмисний ключ підпису все ж міг би створити валідно підписану неправдиву заяву, хоча це вимагає доступу, якого в більшості зловмисників немає
• Жоден зі стандартів не оцінює контекстуальну істинність: чи відповідає справжня, незмінена фотографія точному підпису або чи використовується у правильному часі й місці — це поза межами того, що перевіряє будь-який з цих механізмів

Чому сигнали метаданих і походження зникають

Переважна більшість зображень в обігу не несуть сигналу походження зі звичайних, не підозрілих причин, а не через навмисне ухилення.

• Пристрій зйомки чи генерувальна модель з'явилися раніше за стандарт, або виробник його не реалізував
• Конвеєри завантаження перекодовують файли і відкидають вбудовані метадані як рутинний, не зловмисний побічний ефект обробки (створення мініатюр, зміна формату, стиснення)
• Скриншоти та записи екрана захоплюють лише відображені пікселі, а не будь-які метадані вихідного файлу
• Месенджери та деякі соціальні платформи за замовчуванням видаляють метадані, частково з міркувань приватності користувачів (метадані можуть містити GPS-координати та ідентифікатори пристрою)

Коли виявлення ШІ досі необхідне

Оскільки походження та водяні знаки є добровільними і легко втрачаються під час передачі, більшість зображень, які людині справді потрібно оцінити — фото з незнайомого джерела, зображення, вже позбавлене метаданих платформою, на якій його розміщено, вивід генератора, що не вбудовує водяний знак, — взагалі не несуть перевірюваного сигналу походження. Виявлення ШІ загального призначення існує саме для цієї більшості випадків: воно оцінює ймовірність того, що зображення було створено ШІ або змінено, на основі візуальних і технічних доказів, доступних у самому файлі, не залежачи від того, чи брав якийсь інструмент участь у стандарті.

Як походження і виявлення доповнюють одне одного

Ці два підходи відповідають на різні питання і найефективніші при спільному використанні, а не як заміна одне одного.

• Коли присутній перевірюваний Content Credential: він встановлює задокументований ланцюг зберігання від зйомки до редагування — найнадійніший доступний тип доказу, якщо він існує
• Коли сигнал походження відсутній (звичайний випадок): виявлення ШІ, перевірка метаданих та аналіз маніпуляцій стають основним доступним доказом
• Обидва можна перевіряти разом, навіть коли сигнал присутній — валідний маніфест C2PA може співіснувати з ШІ-контентом, оскільки деякі генератори тепер підписують власні виводи; виявлення і походження перевіряють різні речі, а не конкурують за одну й ту саму відповідь

Обмеження, сформульовані прямо

Обмеження C2PA: впровадження досі становить меншість від загального обсягу зображень в обігу; стандарт залежить від того, що кожен інструмент в історії контенту вирішить брати участь і зберігати ланцюг; видалені або відсутні credential — звичайний випадок, а не виняток.

Обмеження водяних знаків ШІ: ідентифікують лише вивід генераторів, що реалізують конкретну схему водяних знаків; взагалі не дають сигналу для генераторів, які не беруть участі, відредагованих композитів чи старіших методів генерації; стійкість до цілеспрямованого видалення — активне, невирішене дослідницьке питання, а не вирішена проблема.

Обмеження метаданих загалом: легко видаляються, непослідовно зберігаються на різних платформах і — навіть за наявності та незмінності — описують технічну історію файлу, а не те, чи правдиво представлено його вміст або контекст.

Якщо зображення має валідний credential C2PA, чи означає це, що воно справжнє?

Це означає, що інструмент-підписант зробив конкретну, перевірювану заяву про походження файлу та історію редагування, і ця заява не змінювалася з моменту підписання. Це не перевіряє незалежно точність заяви і нічого не говорить про те, чи використовується зображення в точному контексті.

Чи означає відсутність сигналу походження, що зображення було створено ШІ або змінено?

Ні. Більшість зображень в обігу спочатку ніколи не мали прикріпленого сигналу походження, або його було видалено під час завантаження — відсутній сигнал є звичайним випадком і сам собою не є доказом чогось.

Чи можна підробити credential C2PA або водяні знаки SynthID?

Криптографічний підпис за credential C2PA неможливо підробити без закритого ключа підписанта, але credential можна повністю видалити з файлу (втративши маніфест, а не підробивши його). Стійкість водяного знака SynthID до навмисного видалення — активна галузь досліджень, а не гарантія.

Чому PhotoProof Labs не покладається лише на Content Credentials чи водяні знаки?

Тому що більшість зображень, які трапляються на практиці, не несуть жодного з цих сигналів. Власний шар перевірки метаданих PhotoProof Labs перевіряє доступні сигнали походження як один із кількох вхідних ознак — див. сторінку методології — але не залежить від наявності якогось одного стандарту походження, оскільки це залишило б більшість реальних зображень взагалі без оцінювання.