Procedencia, Content Credentials y estándares de confianza

Qué demuestra realmente la procedencia

Una Content Credential (C2PA) es un manifiesto firmado criptográficamente: un registro de quién o qué creó un archivo, cuándo, con qué dispositivo o herramienta, y qué ediciones se aplicaron posteriormente, firmado por la herramienta que hizo la afirmación. Cuando está presente y la cadena de firma se verifica contra el certificado de la autoridad emisora, demuestra que la afirmación la hizo esa herramienta específica y no se ha modificado desde la firma.

Las marcas de agua de IA (el ejemplo más extendido es SynthID de Google DeepMind) funcionan de otra manera: en lugar de un registro adjunto, incrustan una señal imperceptible directamente en los píxeles generados en el momento de la generación, diseñada para sobrevivir a transformaciones habituales como el recorte, la recompresión o el cambio de formato.

Ambos mecanismos demuestran participación, no verdad. Un manifiesto C2PA firmado demuestra que la herramienta firmante hizo una afirmación concreta; no verifica de forma independiente que la afirmación sea exacta, solo que la hizo una fuente identificable y autenticada y que no ha sido alterada desde entonces.

Qué no puede demostrar la procedencia

Las señales de procedencia no pueden demostrar la autenticidad de contenido que nunca las tuvo incorporadas, no pueden añadirse retroactivamente a archivos ya existentes, y no sobreviven a todos los procesos reales.

• Una señal ausente no es evidencia de manipulación o generación por IA: la mayoría del contenido simplemente nunca tuvo una
• Tanto C2PA como SynthID solo funcionan cuando la herramienta de origen participa en ese estándar concreto; una cámara, editor o generador no participante no produce ninguna señal, sin importar cómo se creó el contenido
• Los manifiestos C2PA pueden eliminarse mediante plataformas y procesos que no conservan los metadatos incrustados: la resubida en redes sociales, las capturas de pantalla y muchas aplicaciones de mensajería los eliminan de forma rutinaria
• Una firma criptográfica demuestra quién firmó la afirmación, no que la afirmación describa la realidad: una clave de firma comprometida o maliciosa podría igualmente producir una afirmación falsa firmada válidamente, aunque esto requiere un acceso que la mayoría de los atacantes no tiene
• Ninguno de los dos estándares evalúa la verdad contextual: si una fotografía genuina y sin alterar está subtitulada con precisión o se usa en el momento y lugar correctos queda fuera de lo que cualquiera de los dos mecanismos comprueba

Por qué desaparecen las señales de metadatos y procedencia

La inmensa mayoría de las imágenes en circulación no llevan señal de procedencia por motivos ordinarios y no sospechosos, no por evasión intencionada.

• El dispositivo de captura o el modelo generador son anteriores al estándar, o el fabricante no lo ha implementado
• Los procesos de subida recodifican los archivos y descartan los metadatos incrustados como efecto secundario rutinario y no malicioso del procesamiento (generación de miniaturas, conversión de formato, compresión)
• Las capturas de pantalla y las grabaciones de pantalla capturan solo los píxeles renderizados, no los metadatos que llevaba el archivo original
• Las aplicaciones de mensajería y algunas plataformas sociales eliminan los metadatos por defecto, en parte por razones de privacidad del usuario (los metadatos pueden contener coordenadas GPS e identificadores de dispositivo)

Cuándo sigue siendo necesaria la detección de IA

Como la procedencia y las marcas de agua son opcionales y se pierden fácilmente en el tránsito, la mayoría de las imágenes que una persona realmente necesita evaluar —una foto de una fuente desconocida, una imagen ya despojada de metadatos por la plataforma en la que se publicó, la salida de un generador que no incrusta marca de agua— no llevan ninguna señal de procedencia verificable. La detección de IA de propósito general existe específicamente para este caso mayoritario: estima la probabilidad de que una imagen sea generada por IA o esté manipulada a partir de la evidencia visual y técnica disponible en el propio archivo, sin depender de que ninguna herramienta se haya adherido a un estándar.

Cómo se complementan la procedencia y la detección

Los dos enfoques responden a preguntas distintas y son más eficaces usados juntos, no como sustitutos el uno del otro.

• Cuando hay una Content Credential verificable presente: establece una cadena de custodia documentada desde la captura hasta la edición, el tipo de evidencia disponible más sólido, cuando existe
• Cuando no hay señal de procedencia presente (el caso habitual): la detección de IA, la revisión de metadatos y el análisis de manipulación se convierten en la evidencia principal disponible
• Ambos también pueden comprobarse juntos incluso cuando hay una señal presente: un manifiesto C2PA válido puede coexistir con contenido generado por IA, ya que algunos generadores ahora firman sus propias salidas; la detección y la procedencia comprueban cosas distintas, no compiten por la misma respuesta

Limitaciones, expuestas directamente

Limitaciones de C2PA: la adopción sigue siendo minoritaria respecto al volumen total de imágenes en circulación; el estándar depende de que cada herramienta en el historial de un contenido decida participar y preservar la cadena; las credenciales eliminadas o ausentes son el caso habitual, no la excepción.

Limitaciones de la marca de agua de IA: solo identifica salidas de generadores que implementan ese esquema de marca de agua concreto; no ofrece ninguna señal para generadores no participantes, composiciones editadas o métodos de generación más antiguos; la robustez frente a la eliminación adversaria es una cuestión de investigación activa y sin resolver, no un problema resuelto.

Limitaciones de los metadatos en general: se eliminan fácilmente, se conservan de forma inconsistente entre plataformas y, aunque estén presentes y sin modificar, describen el historial técnico del archivo, no si su contenido o contexto se representa con veracidad.

Si una imagen tiene una credencial C2PA válida, ¿significa que es auténtica?

Significa que la herramienta firmante hizo una afirmación concreta y verificable sobre el origen y el historial de edición del archivo, y que esa afirmación no se ha modificado desde la firma. No verifica de forma independiente que la afirmación sea exacta, y no dice nada sobre si la imagen se usa en un contexto preciso.

¿Significa una señal de procedencia ausente que una imagen fue generada por IA o manipulada?

No. La mayoría de las imágenes en circulación nunca tuvieron una señal de procedencia adjunta desde el principio, o se eliminó durante la subida; una señal ausente es el caso habitual y, por sí sola, no es evidencia de nada.

¿Pueden falsificarse las credenciales C2PA o las marcas de agua SynthID?

La firma criptográfica que respalda una credencial C2PA no puede falsificarse sin la clave privada del firmante, pero una credencial puede eliminarse por completo de un archivo (perdiendo el manifiesto, no falsificándolo). La robustez de la marca de agua SynthID frente a la eliminación deliberada es un área de investigación activa, no una garantía.

¿Por qué PhotoProof AI no depende únicamente de Content Credentials o de las marcas de agua?

Porque la mayoría de las imágenes encontradas en la práctica no llevan ninguna de las dos señales. La propia capa de revisión de metadatos de PhotoProof AI comprueba las señales de procedencia disponibles como una entrada más entre varias —consulta la página de metodología—, pero no depende de que exista un único estándar de procedencia, ya que eso dejaría a la mayoría de las imágenes reales sin ninguna evaluación.