Estalla demanda contra xAI por pornografía infantil con Grok

Una nueva tormenta legal sacude al ecosistema tecnológico. La empresa de inteligencia artificial xAI, fundada por Elon Musk, fue denunciada en Estados Unidos por su presunta responsabilidad en la generación y difusión de contenido de pornografía con niños mediante herramientas de IA. El caso pone en el centro a Grok, el sistema desarrollado por la compañía, y abre un debate urgente sobre los límites de estas tecnologías.

¿Cómo vinculan a Elon Musk y Grok a la pornografía con niños?

La denuncia fue presentada por tres adolescentes de Tennessee, dos de ellas menores de edad, ante un tribunal federal en California. Según el documento judicial, xAI habría permitido la creación de imágenes y videos falsos de las jóvenes desnudas utilizando inteligencia artificial.

El eje del reclamo apunta a Grok, una herramienta capaz de generar imágenes a partir de texto. Las demandantes sostienen que el sistema fue utilizado para producir contenido sexual explícito basado en fotos reales obtenidas de redes sociales, lo que luego derivó en su circulación en plataformas digitales.

grok denuncia inteligencia artificial

Las abogadas del caso acusan a la empresa de haber identificado una oportunidad de negocio en la explotación de imágenes, incluso de menores, pese a conocer los riesgos.

¿Qué pasó con las víctimas del caso de pornografía infantil?

Uno de los testimonios más impactantes es el de una adolescente identificada como “Jane Doe 1”. La joven recibió mensajes con imágenes manipuladas de ella y otras chicas de su entorno, convertidas en material sexual explícito mediante IA.

La situación escaló cuando descubrió que esos archivos no solo existían, sino que se compartían en comunidades online. Según la investigación, el contenido circulaba en plataformas como Discord y Telegram, en grupos donde usuarios intercambiaban material generado con inteligencia artificial.

El impacto emocional fue profundo. La denuncia describe cuadros de ansiedad, insomnio y miedo constante a que las imágenes sigan reproduciéndose o sean tomadas como reales por terceros.

¿Qué pruebas hay en la causa contra Grok?

La investigación policial logró identificar al presunto autor de las imágenes. En su dispositivo se encontró acceso a herramientas vinculadas a Grok, lo que reforzó la hipótesis de que la tecnología de xAI fue utilizada para crear el material.

Además, se detectó que las imágenes fueron subidas a servicios de almacenamiento y luego difundidas masivamente. Un punto clave es que muchas personas no pueden distinguir que se trata de deepfakes, lo que agrava el daño a las víctimas.

grok denuncia inteligencia artificial, 1

Las demandantes también sostienen que xAI no solo desarrolló la tecnología, sino que la comercializa mediante licencias a terceros que sí permiten generar este tipo de contenido.

¿Qué dice Elon Musk sobre Grok y pornografía con niños?

Hasta el momento, Elon Musk negó tener conocimiento de que Grok haya generado imágenes de menores desnudos. En declaraciones previas, aseguró que no existían registros de ese tipo dentro del sistema.

Sin embargo, la denuncia contradice esa postura. Las abogadas afirman que la empresa sabía de los riesgos y, aun así, avanzó con la distribución de su tecnología, incluso facilitando infraestructura para almacenar y procesar imágenes.