El límite del sistema es que los metadatos pueden borrarse. Si alguien descarga una imagen, le saca una captura de pantalla o la pasa por ciertos programas de edición, los metadatos pueden desaparecer.
Para eso existe la segunda capa.
SynthID: la marca de agua invisible de Google que sobrevive a las ediciones
SynthID es una tecnología desarrollada por Google DeepMind que incorpora una señal imperceptible para el ojo humano directamente en los píxeles de la imagen.
A diferencia de los metadatos, esta marca de agua está diseñada para persistir aunque la imagen sea recortada, redimensionada, comprimida o capturada con una captura de pantalla.
A partir de ahora, las imágenes generadas a través de ChatGPT, la API de OpenAI o Codex van a llevar esta marca de agua de SynthID además de los metadatos de C2PA.
Es la primera vez que OpenAI adopta SynthID para imágenes. Ya usaba marcas de agua visibles en Sora y una versión de audio en Voice Engine.
La alianza entre OpenAI y Google para compartir esta tecnología es relevante porque son dos de los principales competidores en el mercado de IA generativa, y están colaborando en un estándar común de identificación de contenido.
Cómo funcionan juntos los dos sistemas
C2PA y SynthID están pensados para complementarse, no para reemplazarse. Cada uno cubre las debilidades del otro.
Los metadatos de C2PA aportan información detallada como quién generó la imagen, cuándo, con qué herramienta y con qué firma criptográfica. Pero son vulnerables a ser eliminados.
SynthID no aporta tanta información, pero es mucho más difícil de borrar porque está integrada en la propia imagen.
Si alguien intenta cubrir sus huellas borrando los metadatos, la marca de agua puede seguir presente. Si la marca de agua se degrada por alguna transformación, los metadatos pueden seguir siendo legibles.
"Las marcas de agua pueden ser más duraderas frente a transformaciones como capturas de pantalla, mientras que los metadatos pueden aportar más información que una marca de agua sola. Juntos, hacen que la procedencia sea más resiliente que cualquiera de las dos capas por sí sola", explicó OpenAI en su comunicado.
La herramienta pública de verificación: cómo usarla
OpenAI presentó en versión preliminar una herramienta pública que permite a cualquier persona subir una imagen y verificar si fue generada con sus sistemas.
La herramienta busca las dos señales, los metadatos de C2PA y la marca de agua de SynthID, y con eso muestra los resultados.
La empresa fue honesta sobre sus limitaciones y dijo que si no se detectan ni metadatos ni marca de agua, la herramienta no concluye definitivamente que la imagen no fue generada con IA. Las señales pueden haber sido eliminadas. Por eso, un resultado negativo no equivale a una garantía de autenticidad.
Por ahora, la herramienta solo detecta imágenes generadas con productos de OpenAI. La empresa dijo que en los próximos meses buscará expandir la verificación a otras plataformas, apuntando a un sistema interindustrial.
El límite real de estas medidas
Estas protecciones solo aplican a imágenes generadas con herramientas de OpenAI. El enorme volumen de imágenes que se producen con herramientas menos reguladas, muchas de ellas sin ningún mecanismo de identificación, no está cubierto por este sistema.
El objetivo no es resolver el problema global de las imágenes falsas, sino asegurarse de que OpenAI no sea parte del problema. Es un paso concreto y verificable, pero no un escudo completo contra la desinformación visual.
La adopción de C2PA en la industria sigue siendo inconsistente. Si el estándar no se generaliza entre los principales generadores de imágenes, la utilidad práctica del sistema para el usuario común es limitada.
Detectar que una imagen no tiene metadatos de C2PA no dice nada sobre si es real o falsa, porque la mayoría de las herramientas todavía no los incluyen.
-----------------
Más contenido de Urgente24
Resistencia productiva: Trabajadores luchan por salvar a un frigorífico del olvido
José Mourinho ya tiene en mente un primer fichaje para el Real Madrid
Google lanzó Spark y ahora tu IA trabaja mientras vos dormís
Por qué Arsenal es campeón sin jugar tras el empate de Manchester City
ARCA cambió de estrategia: No más apelaciones por ganancias a jubilados
