Marcas invisibles en Claude: la medida de Anthropic para evitar deepfakes

Desde el 2 de agosto, todos los modelos de Claude incluyen un sistema de etiquetado que permite identificar si un contenido fue generado por IA. La medida responde al artículo 50 de la Ley de IA de la UE, que obliga a las empresas tecnológicas a etiquetar los contenidos sobre asuntos de interés público creados o manipulados con inteligencia artificial.

El sistema aplica a todos los productos de Anthropic que son Claude Platform, Claude Code, Claude Cowork, Claude Tag, y también cuando se accede a los modelos a través de AWS, Google Cloud o Microsoft Foundry.

Los modelos anteriores al 2 de agosto todavía no están cubiertos, y la empresa tiene cuatro meses de gracia para adaptarlos.

El estándar C2PA añade metadatos a los archivos multimedia generados por la IA, aunque pueden removerse fácilmente mediante capturas de pantalla o cambios de formato.

Cómo funciona según el tipo de contenido

El sistema funciona de forma diferente dependiendo de si el contenido es texto o imagen.

Para imágenes y gráficos, Anthropic usa el estándar C2PA, que es básicamente una "etiqueta nutricional" digital: metadatos criptográficos que registran cómo y cuándo fue creado el archivo, invisibles al ojo humano pero detectables por herramientas especializadas.

Es el mismo estándar que ya usan OpenAI, Meta y Google.

Para textos, el sistema es diferente y más experimental. Anthropic incorpora marcas de agua invisibles que funcionan modificando sutilmente cómo el modelo elige las palabras.

El algoritmo ajusta las probabilidades de selección de ciertos fragmentos para crear un patrón estadístico que difícilmente aparecería por casualidad. Ese patrón es la marca.

No se ve, no cambia el significado del texto, y en principio se mantiene incluso al copiar y pegar el contenido en otra plataforma.

Traducción, edición y capturas: las debilidades que vuelven fácil esquivar el filtro

Acá viene la parte que la propia Anthropic reconoce. Las marcas de agua en texto tienen limitaciones técnicas conocidas desde hace años, al menos desde que Google lanzó SynthID en 2023 con un sistema similar.

El problema central es que la marca depende de detectar un patrón estadístico en una cantidad suficiente de texto. Si ese texto es editado, parafraseado, traducido o mezclado con contenido humano, el patrón se rompe y la marca desaparece.

También desaparece si el fragmento es demasiado corto para que el sistema identifique la señal con confianza.

Hay además un problema de atribución. La presencia de una marca no prueba que todo el contenido sea generado por IA.

Si alguien escribe un texto sobre sus vacaciones basado en su propia experiencia y lo pasa por Claude solo para corregir la ortografía, el resultado podría quedar marcado como contenido de IA aunque las ideas, la estructura y el significado sean completamente humanos. El sistema detecta procesamiento, no autoría.

Para las imágenes, los metadatos C2PA pueden eliminarse al cambiar el formato del archivo o simplemente tomando una captura de pantalla.

Lo que falta para cumplir la ley completa

Anthropic anunció las marcas de agua, pero la Ley de IA europea pide más.

Además de marcas invisibles y metadatos, la normativa exige que los contenidos generados con IA incluyan indicaciones visibles a simple vista para informar sobre su procedencia.

También exige que los chatbots informen a los usuarios de forma explícita y desde el primer contacto que están hablando con una IA.

Esas partes todavía no están implementadas por Anthropic, aunque la empresa tiene margen hasta fin de año para adaptarse y es firmante del Código de Buenas Prácticas de la Ley de IA europea.

El dilema de corregir un texto propio con inteligencia artificial

Los especialistas consultados por Wired aseguran que el sistema anunciado por Anthropic es un mecanismo para alinearse con la regulación europea, no una solución técnica para combatir la desinformación o detectar deepfakes.

Puede aportar información adicional sobre el origen de un contenido, y en casos donde el texto no fue editado puede funcionar como una señal útil.

Pero sus limitaciones técnicas hacen difícil que por sí solo tenga un impacto decisivo en los problemas que la ley intenta resolver.

La propia Unión Europea lo sabe y por eso exige no solo marcas invisibles sino también indicaciones visibles.

Etiquetar contenido generado por IA de forma confiable sigue siendo un problema sin solución definitiva, pero las marcas de agua son un paso.

-----------