El problema es que, según el TTP, esas políticas no evitaron que los anuncios llegaran a usuarios reales.
"Meta parece estar dando carta blanca a uno de sus principales socios publicitarios chinos en lo que respecta a los anuncios de desnudos generados por IA", afirmó Katie Paul, directora del Tech Transparency Project, según Bloomberg.
La organización sostuvo que el hallazgo contradice las declaraciones públicas de Meta sobre sus esfuerzos para combatir los servicios de pornografía deepfake y plantea dudas sobre si la empresa priorizó sus ingresos publicitarios por encima de la seguridad de los usuarios.
Meta rechazó esa interpretación. Cindy Southworth, responsable de política de seguridad de mujeres de la compañía, aseguró que la empresa "no permite imágenes íntimas sin consentimiento ni aplicaciones de desnudos generados artificialmente" y que toma medidas contra quienes violan sus normas.
Facebook e Instagram están bajo presión por la aparición de anuncios de herramientas de inteligencia artificial prohibidas por sus propias políticas.
El rol de los intermediarios: la conexión publicitaria con agencias chinas
El informe pone el foco en GatherOne, una compañía que aparece en la lista de socios publicitarios oficiales de Meta para empresas chinas que buscan anunciarse fuera del país.
Aunque Facebook e Instagram están bloqueados en China, las plataformas siguen siendo herramientas atractivas para compañías de ese país que quieren llegar a consumidores internacionales.
Meta obtuvo US$18.400 millones en ingresos publicitarios provenientes de China durante 2024, según datos citados por Bloomberg, una cifra que representó el 11% de sus ingresos globales.
GatherOne aseguró que cumple con las políticas publicitarias de Meta y con las regulaciones internacionales.
Sin embargo, tras las consultas de Bloomberg, la compañía informó que suspendió la creación de nuevas cuentas publicitarias vinculadas con servicios de desnudez mediante IA y herramientas de intercambio de rostros.
Pornografía deepfake: una epidemia digital que impacta en los adolescentes
El caso no afecta únicamente a Meta. El informe también señala dificultades similares en otros puntos del ecosistema tecnológico, incluyendo las tiendas de aplicaciones donde circulan estas herramientas.
Una de las aplicaciones detectadas por el TTP, llamada BAfter, incluía una función de intercambio de rostros con contenido sexual explícito. Usuarios de Google Play habían denunciado que la plataforma contenía material generado con IA que involucraba menores.
La aplicación fue retirada de Google Play el 21 de julio. Meta también confirmó que prohibió la aplicación y bloqueó enlaces relacionados.
Pero el episodio expone un problema más difícil de resolver: incluso si las grandes plataformas eliminan anuncios y aplicaciones, las herramientas de desnudez generada por IA siguen circulando por otros canales.
Una encuesta reciente de la Universidad George Mason encontró que más de la mitad de los adolescentes estadounidenses consultados había utilizado herramientas de desnudez artificial para crear al menos una imagen propia o de otra persona. Más de un tercio aseguró haber sido víctima de este tipo de tecnología.
La carrera fallida de las plataformas contra el daño por IA
El auge de estas herramientas ocurre mientras gobiernos de distintos países intentan adaptar sus leyes a una tecnología que avanza más rápido que los controles.
Estados Unidos aprobó el año pasado la ley Take It Down, que convirtió en delito la publicación de imágenes sexuales sin consentimiento y obliga a plataformas digitales a eliminarlas.
Pero el desafío no es solo legal. Detectar imágenes falsas generadas por IA, identificar a quienes las crean y evitar que vuelvan a aparecer en nuevas plataformas sigue siendo una tarea abierta.
El caso de Meta muestra que las mismas herramientas que permiten crear contenido innovador también pueden utilizarse para producir daños difíciles de revertir.
Mientras las empresas aseguran que sus sistemas de control mejoran, la velocidad con la que aparecen nuevas aplicaciones obliga a replantearse si las plataformas pueden reaccionar antes de que sea demasiado tarde.
----------------
Más contenido en Urgente24
El telescopio de Galileo Galilei: cómo cambió nuestra visión del cosmos
Fuerte advertencia de Irán sobre una guerra mundial tras ataque ucraniano a un barco iraní
Telefe, preocupado por el bajo rating de Gran Hermano, tomó una medida radical
Escala la crisis con Brasil: Llamaron "payaso" a Javier Milei y lo chicanearon por la inflación y la deuda
Ranking: La inflación de la Argentina de Javier Milei camina junto a Venezuela y Cuba
