La lógica habitual del sector es defensiva. Las plataformas suspenden cuentas, reportan casos a las autoridades y argumentan que la responsabilidad recae en el usuario, no en la herramienta.
Demandar activamente invierte esa postura y tiene implicancias legales interesantes. xAI está construyendo el argumento de que es víctima del mal uso de su producto, lo cual podría ser relevante en futuros litigios donde se le exija responsabilidad a la empresa.
La propia demanda lo dice: las acciones del acusado fueron un esquema calculado para usar la herramienta con fines criminales, exponiendo a víctimas reales a daños profundos y duraderos, y a la empresa a riesgo legal y reputacional.
Es decir, xAI se presenta como damnificada.
xAI sostiene que el acusado violó los términos de uso al intentar generar material de abuso sexual infantil mediante deepfakes.
La contradicción que persigue a Grok
La demanda llega después de meses de escrutinio global sobre Grok por exactamente el tipo de contenido que ahora xAI dice perseguir.
En enero, un estudio reveló que Grok generó alrededor de tres millones de imágenes sexualizadas en once días. En marzo, la ciudad de Baltimore demandó a xAI por permitir la creación de deepfakes sexuales no consensuales.
Grok tuvo períodos en los que sus filtros de seguridad estaban notoriamente más relajados que los de sistemas comparables.
En ese marco, la demanda contra Harwood puede leerse de dos maneras. La primera es que xAI está tomando en serio el problema y actuando con más agresividad que otras empresas del sector.
La segunda, es una operación de relaciones públicas para mostrar que la compañía persigue a los abusadores justo cuando enfrenta acusaciones de haber facilitado el abuso.
Las dos lecturas pueden ser ciertas al mismo tiempo.
El caso reabre el debate sobre la responsabilidad de las empresas cuando sus modelos son utilizados para cometer delitos.
Las cifras detrás del problema
Dentro de la propia denuncia, xAI incluye cifras que hablan de la escala del problema.
En lo que va de 2026, la empresa suspendió más de 52.000 cuentas y realizó más de 73.000 reportes al Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos, lo que derivó en al menos 244 arrestos.
Son números que, dependiendo del ángulo, pueden leerse como evidencia de que el sistema funciona o como evidencia de que el problema es enorme y sistémico.
¿Quién es realmente responsable?
Que una empresa de IA demande a un usuario es un precedente. Pero el debate sigue sin resolverse.
Si una herramienta permite generar este tipo de contenido con la facilidad suficiente como para que decenas de miles de cuentas lo intenten en un año, ¿cuánta responsabilidad le cabe al usuario y cuánta al diseño del sistema?
Esa pregunta no la responde ninguna demanda civil. La responde, eventualmente, la regulación. Y en materia de IA generativa y protección de menores, esa regulación todavía no existe.
------------
Más contenido en Urgente24
Ni en Google se sienten seguros: miles de empleados temen a la IA
La politización de la Copa del Mundo comenzó con Donald Trump y Gianni Infantino
Identificaron a la mujer que insultó a Roberto Funes Ugarte y sorprende su pasado
Se desatan fuertes tormentas, ráfagas y granizo: El clima severo mantiene al AMBA bajo alerta
El Mundial inspira y los médicos advierten: Cómo jugar al fútbol sin poner en riesgo la salud
