La mentira detrás de videos virales: las marcas están usando personas creadas con IA

El 70% de los consumidores no logra identificar correctamente qué videos son reales y cuáles fueron generados con IA.

En Instagram circulan varios videos de una novia llorando de emoción mientras cuenta que usó una app de fotos en su casamiento. "Todos esperaban una boda sin teléfonos, así que les di cámaras a cambio", dice. El posteo menciona la app y tiene el tono exacto de una recomendación genuina de una clienta satisfecha.

¿El problema? Esa novia no existe. Según un análisis de Reality Defenders, empresa especializada en detección de deepfakes, el contenido fue generado con inteligencia artificial.

Ese es uno de los casos que documentó una investigación del diario The Guardian publicada esta semana, que encontró que marcas de distintos rubros están usando influencers generados por IA para promocionar productos en redes sociales sin ninguna indicación de que las personas que aparecen no son reales.

Una app de diseño de interiores, una marca de moda de Dubai que publicó fotos de una mujer con un dedo de más en la mano, una empresa de fotografía para bodas: todas usaron o probaron contenido con personas que nunca existieron.

Chau-a-los-medicos-Urgente-24

El desafío para las redes sociales ya no es detectar bots, sino distinguir personas reales de imágenes perfectas.

Cómo funciona el negocio y por qué crece

Clarissa Mansbridge crea influencers de IA para marcas desde hace varios años. Una empresa la contrata para producir un video hiperrealista de, por ejemplo, una chica de 20 años aplicándose protector solar al lado de una pileta en Bali. La marca publica ese video en sus redes como si fuera contenido enviado por una clienta real. Nadie dice que es IA.

Según Mansbridge, entre el 40% y el 60% del contenido de algunas marcas grandes ya se produce de esta forma, pero la mayoría de los creadores que trabajan en esto firman acuerdos de confidencialidad que les impiden mencionarlo. "Lo llamo denegación plausible", dijo al Guardian.

Las razones por las que las marcas eligen este camino son económicas y de control. Una producción fotográfica tradicional de alto nivel puede costar entre 20.000 y 70.000 dólares. Un influencer humano puede tener opiniones propias, generar escándalos o negociar tarifas. El influencer de IA no hace ninguna de esas cosas.

"Las marcas quieren fotografía de alta calidad pero no quieren pagar lo que cuesta", explicó Mansbridge. "Los influencers humanos arruinaron el mercado para ellos mismos."

Es legal, y ese es el problema

Lo más inquietante de la investigación no es que exista este tipo de contenido sino que no haya ninguna norma que obligue a revelarlo.

No hay ninguna regla que prohíba publicar contenido generado por IA sin aclararlo. Lo único que importa es si el anuncio es engañoso en cuanto al producto, no si la persona que lo recomienda es real o no.

En la Unión Europea la situación va a cambiar en agosto, cuando entren en vigor las primeras reglas de la Ley de Inteligencia Artificial que exigen etiquetar contenido generado o manipulado por IA, incluyendo deepfakes. Pero esa legislación no aplica en Argentina, ni en el Reino Unido, ni en ningún otro país de América Latina.

El grupo de consumidores Which? publicó datos que ilustran por qué esto importa: el 70% de las personas no puede identificar correctamente cuáles videos son reales y cuáles son falsos cuando se los muestran.

Qué cambia para quien consume contenido en redes

La práctica de las marcas de usar personas reales que simulan ser clientes comunes, lo que en marketing se llama contenido generado por usuarios, lleva años siendo una estrategia deliberada. Los influencers lo detectaron antes que nadie y empezaron a vender exactamente ese formato: videos y fotos que parecen espontáneos pero son pagos. Las marcas amaron el resultado.

Lo que está pasando ahora es la siguiente fase: reemplazar al influencer humano por uno generado, manteniendo la estética de autenticidad pero eliminando todos los costos y riesgos que vienen con una persona real.

El contenido sigue pareciendo la recomendación genuina de alguien como vos. Solo que no lo es, y no hay ninguna etiqueta que lo aclare.

-----------