"El Gobierno considera los 'deepfakes' sexuales no consentidos una grave vulneración de los derechos humanos, de la dignidad y de la seguridad de la ciudadanía en el espacio digital", afirmó.
Mientras, la Comisión de Comunicaciones y Multimedia de Malasia ordenó el domingo una prohibición temporal, tras “el uso indebido repetido de Grok para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y no consensuadas, incluido contenido que involucra a mujeres y menores”.
Tras la ola de críticas mundial, Grok limitó la semana pasada la generación y edición de imágenes a los usuarios de pago. Vale recordar que este modelo de IA no vive en una app aislada sino dentro de X (ex Twitter)
Elon Musk también advirtió que quien le pida a la IA que genere contenido ilegal "sufriría las mismas consecuencias" que si lo subiera él mismo.
No obstante, para algunos, la medida es insuficiente y no resuelve del todo el problema.
Advertencia sobre Grok y las deepfakes sexuales
La Internet Watch Foundation (IWF), que combate la circulación de material de abuso sexual infantil, es una de las organizaciones que ha alertado sobre el uso de Grok para crear imágenes sexuales de menores.
Ngaire Alexander, jefa de Línea Directa, declaró: “Tras los informes que indican que la herramienta de IA Grok ha generado imágenes sexuales de menores, podemos confirmar que nuestros analistas han descubierto imágenes delictivas de menores de entre 11 y 13 años que parecen haber sido creadas con dicha herramienta".
Las imágenes que hemos visto hasta ahora no se encuentran en X, sino en un foro de la dark web donde los usuarios afirman haber utilizado Grok Imagine para crear las imágenes, que incluyen imágenes sexualizadas y en topless de niñas (...) los daños se están propagando. No hay excusa para lanzar al público global productos que puedan utilizarse para abusar y dañar a personas, especialmente a menores”, destacaron.
Ahora se suma otro problema. Según WIRED, un número considerable de imágenes creadas con Grok están dirigidas a mujeres con vestimenta religiosa y cultural, considerándolo una "nueva ola de humillación".
"Los usuarios no solo ordenan a Grok que "desnude" fotos de mujeres y niñas en bikinis y ropa interior transparente", indica WIRED.
"En una revisión de 500 imágenes de Grok generadas entre el 6 y el 9 de enero, WIRED descubrió que alrededor del 5% de los resultados mostraban la imagen de una mujer a la que, como resultado de las peticiones de los usuarios, se le quitaba o se le hacía llevar ropa religiosa o cultural", agregaron.
Mientras tanto, Elon Musk ha escrito lo siguiente en su cuenta de X en las últimas horas: "Comparado con otras IA, Grok es sólido como una roca. Y mejorará mucho. La eterna curiosidad por conocer la verdad más profunda y la apreciación de la belleza son sus objetivos". Veremos.
-------
Más noticias en Urgente24
Gallardo le abrió la puerta y River vendió a un campeón del mundo
Nuevos amores obligan a 'blanquear' la ruptura de Mauricio Macri y Juliana Awada
Rutas privadas: Peajes antes que obras en los Tramos Oriental y Conexión
La miniserie de 6 capítulos que todos buscan en Netflix
Sebastián Villa terminó la novela y confirmó su futuro tras la oferta de River
