Provenance, Content Credentials et normes de confiance

Ce que la provenance prouve réellement

Une Content Credential (C2PA) est un manifeste signé cryptographiquement : un enregistrement de qui ou quoi a créé un fichier, quand, avec quel appareil ou outil, et quelles modifications ont ensuite été apportées, chacune signée par l'outil ayant fait l'affirmation. Lorsqu'elle est présente et que la chaîne de signature se vérifie par rapport au certificat de l'autorité émettrice, cela prouve que l'affirmation a été faite par cet outil spécifique et n'a pas été modifiée depuis la signature.

Le filigrane IA (l'exemple le plus répandu est SynthID de Google DeepMind) fonctionne différemment : au lieu d'un enregistrement joint, il intègre un signal imperceptible directement dans les pixels générés au moment de la génération, conçu pour survivre à des transformations courantes comme le recadrage, la recompression ou la conversion de format.

Les deux mécanismes prouvent la participation, pas la vérité. Un manifeste C2PA signé prouve que l'outil signataire a fait une affirmation précise — il ne vérifie pas de manière indépendante que l'affirmation est exacte, seulement qu'elle provient d'une source identifiable et authentifiée et n'a pas été altérée depuis.

Ce que la provenance ne peut pas prouver

Les signaux de provenance ne peuvent pas prouver l'authenticité d'un contenu qui n'en a jamais eu, ne peuvent pas être ajoutés rétroactivement à des fichiers existants, et ne survivent pas à tous les traitements réels.

• Un signal absent n'est pas une preuve de manipulation ou de génération par IA — la plupart des contenus n'en ont simplement jamais eu
• C2PA et SynthID ne fonctionnent que lorsque l'outil d'origine participe à cette norme spécifique ; un appareil photo, un éditeur ou un générateur non participant ne produit aucun signal, quelle que soit la façon dont le contenu a été créé
• Les manifestes C2PA peuvent être supprimés par des plateformes et des pipelines qui ne conservent pas les métadonnées intégrées — les republications sur les réseaux sociaux, les captures d'écran et de nombreuses applications de messagerie les suppriment couramment
• Une signature cryptographique prouve qui a signé l'affirmation, pas que l'affirmation décrit la réalité — une clé de signature compromise ou malveillante pourrait tout de même produire une fausse affirmation validement signée, bien que cela nécessite un accès que la plupart des attaquants n'ont pas
• Aucune des deux normes n'évalue la vérité contextuelle : qu'une photo authentique et non modifiée soit légendée avec précision ou utilisée au bon moment et au bon endroit échappe à ce que l'un ou l'autre mécanisme vérifie

Pourquoi les signaux de métadonnées et de provenance disparaissent

L'immense majorité des images en circulation ne portent aucun signal de provenance, pour des raisons ordinaires et non suspectes plutôt que par évitement intentionnel.

• L'appareil de capture ou le modèle générateur est antérieur à la norme, ou le fabricant ne l'a pas implémentée
• Les pipelines de téléversement réencodent les fichiers et suppriment les métadonnées intégrées comme effet secondaire courant et non malveillant du traitement (génération de miniatures, conversion de format, compression)
• Les captures d'écran et enregistrements d'écran ne capturent que les pixels rendus, pas les métadonnées du fichier original
• Les applications de messagerie et certaines plateformes sociales suppriment les métadonnées par défaut, en partie pour des raisons de confidentialité des utilisateurs (les métadonnées peuvent contenir des coordonnées GPS et des identifiants d'appareil)

Quand la détection IA reste nécessaire

La provenance et le filigrane étant optionnels et facilement perdus en transit, la plupart des images qu'une personne doit réellement évaluer — une photo d'une source inconnue, une image déjà dépouillée de ses métadonnées par la plateforme sur laquelle elle a été publiée, la sortie d'un générateur qui n'intègre pas de filigrane — ne portent aucun signal de provenance vérifiable. La détection IA généraliste existe spécifiquement pour ce cas majoritaire : elle estime la probabilité qu'une image ait été générée par IA ou manipulée à partir des preuves visuelles et techniques disponibles dans le fichier lui-même, sans dépendre du fait qu'un outil ait adhéré à une norme.

Comment provenance et détection se complètent

Les deux approches répondent à des questions différentes et sont plus efficaces utilisées ensemble, pas en substitution l'une de l'autre.

• Lorsqu'une Content Credential vérifiable est présente : elle établit une chaîne de possession documentée depuis la capture jusqu'à l'édition — le type de preuve disponible le plus solide, lorsqu'il existe
• Lorsqu'aucun signal de provenance n'est présent (le cas courant) : la détection IA, l'examen des métadonnées et l'analyse de manipulation deviennent la preuve principale disponible
• Les deux peuvent aussi être vérifiés ensemble même lorsqu'un signal est présent — un manifeste C2PA valide peut coexister avec du contenu généré par IA, certains générateurs signant désormais leurs propres sorties ; détection et provenance vérifient des choses différentes, elles ne sont pas en concurrence pour la même réponse

Limites, énoncées directement

Limites de C2PA : l'adoption reste minoritaire par rapport au volume total d'images en circulation ; la norme dépend du choix de chaque outil dans l'historique d'un contenu de participer et de préserver la chaîne ; les identifiants supprimés ou absents sont le cas courant, pas l'exception.

Limites du filigrane IA : n'identifie que les sorties des générateurs qui implémentent ce schéma de filigrane spécifique ; ne fournit aucun signal pour les générateurs non participants, les composites édités ou les méthodes de génération plus anciennes ; la robustesse face à la suppression adversariale est une question de recherche active et non résolue, pas un problème résolu.

Limites des métadonnées en général : facilement supprimées, conservées de manière incohérente selon les plateformes, et — même présentes et non modifiées — décrivent l'historique technique du fichier, pas si son contenu ou son contexte est représenté fidèlement.

Si une image a un identifiant C2PA valide, cela signifie-t-il qu'elle est authentique ?

Cela signifie que l'outil signataire a fait une affirmation précise et vérifiable sur l'origine et l'historique d'édition du fichier, et que cette affirmation n'a pas été modifiée depuis la signature. Cela ne vérifie pas de manière indépendante que l'affirmation est exacte, et ne dit rien sur le fait que l'image soit utilisée dans un contexte exact.

L'absence de signal de provenance signifie-t-elle qu'une image a été générée par IA ou manipulée ?

Non. La plupart des images en circulation n'ont jamais eu de signal de provenance associé au départ, ou il a été supprimé lors du téléversement — un signal absent est le cas courant et n'est, à lui seul, la preuve de rien.

Les identifiants C2PA ou les filigranes SynthID peuvent-ils être falsifiés ?

La signature cryptographique derrière un identifiant C2PA ne peut pas être falsifiée sans la clé privée du signataire, mais un identifiant peut être entièrement supprimé d'un fichier (perdant le manifeste, sans le falsifier). La robustesse du filigrane SynthID face à une suppression délibérée est un domaine de recherche actif, pas une garantie.

Pourquoi PhotoProof Labs ne s'appuie-t-il pas uniquement sur les Content Credentials ou le filigrane ?

Parce que la plupart des images rencontrées en pratique ne portent aucun des deux signaux. La propre couche d'examen des métadonnées de PhotoProof Labs vérifie les signaux de provenance disponibles comme l'une des nombreuses entrées — voir la page méthodologie — mais ne dépend pas de la présence d'une seule norme de provenance, car cela laisserait la majorité des images réelles sans aucune évaluation.