Escándalo en Meta: permitieron miles de anuncios de IA para crear desnudos

La inteligencia artificial abrió una nueva frontera para la generación de imágenes falsas, entre esas, personas reales desnudas. Un nuevo informe del Tech Transparency Project (TTP) señala que Facebook e Instagram difundieron miles de anuncios de aplicaciones para crear desnudos falsos y contenido sexualizado mediante IA, pese a que Meta prohíbe este tipo de servicios dentro de sus plataformas publicitarias.

La investigación identificó alrededor de 7.600 anuncios vinculados a estas herramientas durante los últimos meses. Según el informe, detrás de una parte importante de esa publicidad estuvo GatherOne, una agencia con sede en Pekín que conecta anunciantes chinos con las plataformas de Meta.

Entre las aplicaciones promocionadas había herramientas que permiten colocar el rostro de una persona sobre un cuerpo desnudo o generar videos sexualizados a partir de imágenes reales.

El caso vuelve a poner bajo presión a Meta en un momento en que las empresas tecnológicas intentan demostrar que pueden controlar los riesgos asociados a la inteligencia artificial sin necesidad de mayores restricciones externas.

La difusión de publicidad de aplicaciones para la creación de imágenes íntimas sin consentimiento vuelve a poner en jaque los filtros de moderación de Meta.

Una industria que crece más rápido que los controles

Las reglas de Meta son claras. La compañía no permite anuncios de aplicaciones que busquen desnudar personas mediante inteligencia artificial ni contenido sexual sugerente generado artificialmente.

El problema es que, según el TTP, esas políticas no evitaron que los anuncios llegaran a usuarios reales.

"Meta parece estar dando carta blanca a uno de sus principales socios publicitarios chinos en lo que respecta a los anuncios de desnudos generados por IA", afirmó Katie Paul, directora del Tech Transparency Project, según Bloomberg.

La organización sostuvo que el hallazgo contradice las declaraciones públicas de Meta sobre sus esfuerzos para combatir los servicios de pornografía deepfake y plantea dudas sobre si la empresa priorizó sus ingresos publicitarios por encima de la seguridad de los usuarios.

Meta rechazó esa interpretación. Cindy Southworth, responsable de política de seguridad de mujeres de la compañía, aseguró que la empresa "no permite imágenes íntimas sin consentimiento ni aplicaciones de desnudos generados artificialmente" y que toma medidas contra quienes violan sus normas.

Facebook e Instagram están bajo presión por la aparición de anuncios de herramientas de inteligencia artificial prohibidas por sus propias políticas.

El rol de los intermediarios: la conexión publicitaria con agencias chinas

El informe pone el foco en GatherOne, una compañía que aparece en la lista de socios publicitarios oficiales de Meta para empresas chinas que buscan anunciarse fuera del país.

Aunque Facebook e Instagram están bloqueados en China, las plataformas siguen siendo herramientas atractivas para compañías de ese país que quieren llegar a consumidores internacionales.

Meta obtuvo US$18.400 millones en ingresos publicitarios provenientes de China durante 2024, según datos citados por Bloomberg, una cifra que representó el 11% de sus ingresos globales.

GatherOne aseguró que cumple con las políticas publicitarias de Meta y con las regulaciones internacionales.

Sin embargo, tras las consultas de Bloomberg, la compañía informó que suspendió la creación de nuevas cuentas publicitarias vinculadas con servicios de desnudez mediante IA y herramientas de intercambio de rostros.

Pornografía deepfake: una epidemia digital que impacta en los adolescentes

El caso no afecta únicamente a Meta. El informe también señala dificultades similares en otros puntos del ecosistema tecnológico, incluyendo las tiendas de aplicaciones donde circulan estas herramientas.

Una de las aplicaciones detectadas por el TTP, llamada BAfter, incluía una función de intercambio de rostros con contenido sexual explícito. Usuarios de Google Play habían denunciado que la plataforma contenía material generado con IA que involucraba menores.

La aplicación fue retirada de Google Play el 21 de julio. Meta también confirmó que prohibió la aplicación y bloqueó enlaces relacionados.

Pero el episodio expone un problema más difícil de resolver: incluso si las grandes plataformas eliminan anuncios y aplicaciones, las herramientas de desnudez generada por IA siguen circulando por otros canales.

Una encuesta reciente de la Universidad George Mason encontró que más de la mitad de los adolescentes estadounidenses consultados había utilizado herramientas de desnudez artificial para crear al menos una imagen propia o de otra persona. Más de un tercio aseguró haber sido víctima de este tipo de tecnología.

La carrera fallida de las plataformas contra el daño por IA

El auge de estas herramientas ocurre mientras gobiernos de distintos países intentan adaptar sus leyes a una tecnología que avanza más rápido que los controles.

Estados Unidos aprobó el año pasado la ley Take It Down, que convirtió en delito la publicación de imágenes sexuales sin consentimiento y obliga a plataformas digitales a eliminarlas.

Pero el desafío no es solo legal. Detectar imágenes falsas generadas por IA, identificar a quienes las crean y evitar que vuelvan a aparecer en nuevas plataformas sigue siendo una tarea abierta.

El caso de Meta muestra que las mismas herramientas que permiten crear contenido innovador también pueden utilizarse para producir daños difíciles de revertir.

Mientras las empresas aseguran que sus sistemas de control mejoran, la velocidad con la que aparecen nuevas aplicaciones obliga a replantearse si las plataformas pueden reaccionar antes de que sea demasiado tarde.

----------------