¿Chau Grok? Los primeros países en bloquear la IA de Elon Musk son estos

Grok, el chatbot de inteligencia artificial de Elon Musk, está en el ojo del huracán por imágenes sexualizadas. Ahora, la herramienta IA ha sido bloqueada en dos países, una medida que se cree que podría repetirse en otras partes del mundo en medio del mega problema que involucra tecnología, pornografía, y seguridad en internet.

¿Qué pasó con Grok de Elon Musk?

En una primicia mundial, Indonesia y Malasia se han convertido en los primeros países en prohibir Grok, el chatbot de xAI, la empresa de Musk.

La tajante decisión fue tomada luego de que autoridades advirtieran sobre el uso indebido de esta herramienta de IA para crear pornografía falsa sin consentimiento.

Los reguladores de ambos países coincidieron en que los controles actuales no eran suficientes para impedir la creación y divulgación de contenido sexualizado, incluidas imágenes de mujeres y menores de edad.

Por un lado, la ministra de Comunicación y Asuntos Digitales de Indonesiaa, Meutya Hafid, dijo en un comunicado el sábado que, el veto era para “proteger a las mujeres, los niños y el público en general de los riesgos del contenido pornográfico falso generado utilizando tecnología de inteligencia artificial”.

"El Gobierno considera los 'deepfakes' sexuales no consentidos una grave vulneración de los derechos humanos, de la dignidad y de la seguridad de la ciudadanía en el espacio digital", afirmó.

Mientras, la Comisión de Comunicaciones y Multimedia de Malasia ordenó el domingo una prohibición temporal, tras “el uso indebido repetido de Grok para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y no consensuadas, incluido contenido que involucra a mujeres y menores”.

Tras la ola de críticas mundial, Grok limitó la semana pasada la generación y edición de imágenes a los usuarios de pago. Vale recordar que este modelo de IA no vive en una app aislada sino dentro de X (ex Twitter)

Elon Musk también advirtió que quien le pida a la IA que genere contenido ilegal "sufriría las mismas consecuencias" que si lo subiera él mismo.

No obstante, para algunos, la medida es insuficiente y no resuelve del todo el problema.

Advertencia sobre Grok y las deepfakes sexuales

La Internet Watch Foundation (IWF), que combate la circulación de material de abuso sexual infantil, es una de las organizaciones que ha alertado sobre el uso de Grok para crear imágenes sexuales de menores.

Ngaire Alexander, jefa de Línea Directa, declaró: “Tras los informes que indican que la herramienta de IA Grok ha generado imágenes sexuales de menores, podemos confirmar que nuestros analistas han descubierto imágenes delictivas de menores de entre 11 y 13 años que parecen haber sido creadas con dicha herramienta".

Las imágenes que hemos visto hasta ahora no se encuentran en X, sino en un foro de la dark web donde los usuarios afirman haber utilizado Grok Imagine para crear las imágenes, que incluyen imágenes sexualizadas y en topless de niñas (...) los daños se están propagando. No hay excusa para lanzar al público global productos que puedan utilizarse para abusar y dañar a personas, especialmente a menores”, destacaron.

Ahora se suma otro problema. Según WIRED, un número considerable de imágenes creadas con Grok están dirigidas a mujeres con vestimenta religiosa y cultural, considerándolo una "nueva ola de humillación".

"Los usuarios no solo ordenan a Grok que "desnude" fotos de mujeres y niñas en bikinis y ropa interior transparente", indica WIRED.

"En una revisión de 500 imágenes de Grok generadas entre el 6 y el 9 de enero, WIRED descubrió que alrededor del 5% de los resultados mostraban la imagen de una mujer a la que, como resultado de las peticiones de los usuarios, se le quitaba o se le hacía llevar ropa religiosa o cultural", agregaron.

Mientras tanto, Elon Musk ha escrito lo siguiente en su cuenta de X en las últimas horas: "Comparado con otras IA, Grok es sólido como una roca. Y mejorará mucho. La eterna curiosidad por conocer la verdad más profunda y la apreciación de la belleza son sus objetivos". Veremos.

-------