La IA de Elon Musk demandó a un usuario por crear imágenes de abuso infantil

La startup de inteligencia artificial xAI, fundada por Elon Musk, presentó por primera vez una demanda federal en Texas contra Terry Harwood, un hombre de Carolina del Sur arrestado en febrero de este año por cargos de explotación sexual de menores.

Según la denuncia, Harwood usó Grok, el sistema de IA de xAI, para subir imágenes no sexuales de adultos y menores e intentar generar deepfakes sexualmente explícitos a partir de ellas.

xAI alega violación de sus términos de servicio y pide daños económicos no especificados, más una orden judicial que prohíba a Harwood usar Grok de forma permanente.

El caso es uno de los primeros en que una empresa de IA demanda a un usuario por haber usado su herramienta para generar material de abuso sexual infantil.

El precedente que busca Musk

Que una empresa de IA lleve a un usuario a la justicia por este tipo de uso es un movimiento poco frecuente.

La lógica habitual del sector es defensiva. Las plataformas suspenden cuentas, reportan casos a las autoridades y argumentan que la responsabilidad recae en el usuario, no en la herramienta.

Demandar activamente invierte esa postura y tiene implicancias legales interesantes. xAI está construyendo el argumento de que es víctima del mal uso de su producto, lo cual podría ser relevante en futuros litigios donde se le exija responsabilidad a la empresa.

La propia demanda lo dice: las acciones del acusado fueron un esquema calculado para usar la herramienta con fines criminales, exponiendo a víctimas reales a daños profundos y duraderos, y a la empresa a riesgo legal y reputacional.

Es decir, xAI se presenta como damnificada.

xAI sostiene que el acusado violó los términos de uso al intentar generar material de abuso sexual infantil mediante deepfakes.

La contradicción que persigue a Grok

La demanda llega después de meses de escrutinio global sobre Grok por exactamente el tipo de contenido que ahora xAI dice perseguir.

En enero, un estudio reveló que Grok generó alrededor de tres millones de imágenes sexualizadas en once días. En marzo, la ciudad de Baltimore demandó a xAI por permitir la creación de deepfakes sexuales no consensuales.

Grok tuvo períodos en los que sus filtros de seguridad estaban notoriamente más relajados que los de sistemas comparables.

En ese marco, la demanda contra Harwood puede leerse de dos maneras. La primera es que xAI está tomando en serio el problema y actuando con más agresividad que otras empresas del sector.

La segunda, es una operación de relaciones públicas para mostrar que la compañía persigue a los abusadores justo cuando enfrenta acusaciones de haber facilitado el abuso.

Las dos lecturas pueden ser ciertas al mismo tiempo.

El caso reabre el debate sobre la responsabilidad de las empresas cuando sus modelos son utilizados para cometer delitos.

Las cifras detrás del problema

Dentro de la propia denuncia, xAI incluye cifras que hablan de la escala del problema.

En lo que va de 2026, la empresa suspendió más de 52.000 cuentas y realizó más de 73.000 reportes al Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos, lo que derivó en al menos 244 arrestos.

Son números que, dependiendo del ángulo, pueden leerse como evidencia de que el sistema funciona o como evidencia de que el problema es enorme y sistémico.

¿Quién es realmente responsable?

Que una empresa de IA demande a un usuario es un precedente. Pero el debate sigue sin resolverse.

Si una herramienta permite generar este tipo de contenido con la facilidad suficiente como para que decenas de miles de cuentas lo intenten en un año, ¿cuánta responsabilidad le cabe al usuario y cuánta al diseño del sistema?

Esa pregunta no la responde ninguna demanda civil. La responde, eventualmente, la regulación. Y en materia de IA generativa y protección de menores, esa regulación todavía no existe.

------------