La libertad de Elon Musk se le fue de las manos: imágenes sexuales de menores generadas en Grok sin freno. ¿Importa más la ideología que la responsabilidad?
La libertad de Elon Musk se le fue de las manos: imágenes sexuales de menores generadas en Grok sin freno. ¿Importa más la ideología que la responsabilidad?
Cuando Elon Musk decidió vender Grok como el chatbot sin filtros de la inteligencia artificial, muchos aplaudieron la provocación y otros miraron para otro lado, hasta que empezaron a aparecer imágenes sexuales que hoy exponen un problema mucho más serio. Lo de Grok ya pasó a ser pedofilia generada, amplificada y tolerada socialmente.
No estamos hablando de un uso aislado ni de un bug puntual. La Internet Watch Foundation (IWF), una organización británica que combate la circulación de material de abuso sexual infantil, confirmó que sus analistas encontraron en foros de la dark web imágenes sexualizadas y sin ropa de nenas de entre 11 y 13 años que parecen haber sido creadas con Grok.
El dato es grave no solo por el contenido, sino porque marca un salto de escala: herramientas gratuitas y masivas que producen material que encuadra como delito.
Ngaire Alexander, responsable de la línea telefónica de la IWF, dijo sin vueltas en declaraciones a la BBC: "Estamos extremadamente preocupados por la facilidad y la velocidad con la que aparentemente se puede generar material foto-realista de abuso sexual infantil". Y agregó una frase todavía más incómoda: "Herramientas como Grok ahora corren el riesgo de llevar las imágenes sexuales de niños al consumo masivo".
Para entender por qué pasó esto, hay que recordar que Elon Musk viene empujando desde hace tiempo una cruzada personal contra lo que llama "IA woke", criticando los filtros, los controles y cualquier límite que huela a moderación.
Según fuentes citadas por CNN y WIRED, dentro de xAI se presionó para relajar los sistemas de seguridad de Grok, casualmente cuando renunciaron varios responsables del área de seguridad y X redujo equipos encargados de confianza y moderación, algo que también había sido anticipado por The Information.
No fue ninguna falla técnica: fue una decisión de diseño sostenida en una idea ideológica.
A diferencia de otros modelos de IA, Grok no vive en una app aislada sino dentro de X (ex Twitter), una de las redes sociales más grandes del mundo, donde además muchas respuestas son públicas por defecto. Eso transformó prácticas que antes circulaban en lo privado (como el "digital undressing", osea sacarle la ropa a personas reales con IA) en algo visible para todo el mundo, viral y normalizado.
Investigadores de AI Forensics analizaron más de 20.000 imágenes generadas entre fines de diciembre y principios de enero y encontraron que el 53% mostraba a personas con poca ropa, el 81% eran mujeres y un 2% parecía incluir menores de edad. En algunos casos, los pedidos iban todavía más lejos: posiciones eróticas explícitas, violencia o fluidos sexuales. Y lo peor es que Grok lo concedía.
Desde X y xAI se lavaron las manos. El propio CEO de X y Tesla escribió en su cuenta: "Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si lo sube". La cuenta de Seguridad de X agregó que actúan removiendo contenido, suspendiendo cuentas y colaborando con las autoridades. El problema es que las imágenes siguieron circulando mientras los reguladores ya estaban encima.
En otros lugares del mundo se vienen movilizando hace rato. Ofcom, el regulador británico, habló de "preocupaciones muy serias"; la Comisión Europea, India y Malasia abrieron investigaciones; en el Reino Unido, incluso un comité del Parlamento decidió dejar de usar X por considerar que ya no es compatible con las políticas contra violencia de género, según The Guardian. Y especialistas legales, como Riana Pfefferkorn del Stanford HAI, advirtieron que ni siquiera la famosa Sección 230 en Estados Unidos protege a las plataformas frente a delitos federales como la pederastia.
Grok no es un monstruo que se volvió loco y se desató. Es lo que pasa cuando la idea de "no censurar nada" termina siendo excusa para mirar para otro lado frente a abusos graves. Y ahí, más que la tecnología, hay que fijarse en quién la maneja y con qué prioridades.
---------------------------------------------------------------------
Racing aceleró y va por un peso pesado del plantel de River
La miniserie de 8 capítulos ideal para arrancar el año
Israel en shock: Detalles de la muerte prematura del juez que investigaba a Netanyahu
La Purga: Delcy Rodríguez despidió al 'cazaopositores' general Marcano Tábata
Jorge Rial se le plantó a Eduardo Feinmann por Venezuela y dejó una verdad incómoda