Señales de procedencia de IA: SynthID, C2PA y los límites de la detección basada en marcas de agua

Qué es C2PA (Content Credentials)

C2PA es un estándar técnico abierto, desarrollado por la Coalition for Content Provenance and Authenticity, para adjuntar un registro firmado criptográficamente del origen de un archivo y su historial de edición. Cuando está presente y sin modificar, una Content Credential puede mostrar qué dispositivo o herramienta creó un archivo y qué ediciones se aplicaron.

Qué es SynthID

SynthID, desarrollado por Google DeepMind, incrusta una marca de agua digital imperceptible directamente en los píxeles generados por modelos participantes, diseñada para seguir siendo detectable tras transformaciones habituales como el recorte o la recompresión.

Qué no pueden hacer estas señales

Ambas señales dependen totalmente de la participación: C2PA requiere que la herramienta de captura o edición firme el archivo; SynthID requiere que el modelo generador incruste la marca de agua. Ninguna señal se añade retroactivamente a contenido de una herramienta no participante, y ambas pueden eliminarse mediante plataformas que no conservan los metadatos durante el procesamiento. La ausencia de cualquiera de las señales es habitual y, por sí sola, poco informativa: no es prueba de manipulación ni de generación por IA.

• Solo es significativa cuando la herramienta de origen participa en el estándar
• Puede eliminarse por procesos de subida que no conservan los datos incrustados
• Demuestra que se hizo y firmó una afirmación, no que la afirmación sea cierta

Por qué la detección de propósito general sigue importando

Dado que la mayoría de las imágenes en circulación — de cámaras no participantes, dispositivos antiguos, generadores no participantes o plataformas que eliminan metadatos — no llevan ninguna de las dos señales, los estándares de procedencia y la detección de IA de propósito general son complementarios, no competidores: la procedencia demuestra el origen cuando está presente; la detección estima la probabilidad cuando no lo está.

¿Significa una credencial C2PA ausente que una imagen es falsa?

No. La mayoría de las imágenes nunca tuvieron una incorporada, o se eliminó durante la subida — una credencial ausente es habitual y, por sí sola, poco informativa.

¿Puede SynthID detectar imágenes de cualquier generador de IA?

No. Solo puede identificar contenido de modelos que incrustan la marca de agua en el momento de la generación. Una imagen de un generador no participante no mostrará señal de SynthID, independientemente de cómo se haya creado.

¿Comprueba PhotoProof AI la presencia de estas señales?

La capa de revisión de metadatos de PhotoProof AI examina la procedencia disponible y los metadatos incrustados como una de cinco señales de evidencia — consulta la página sobre toma de decisiones con múltiples señales —, pero no depende de que exista un único estándar de procedencia.