Elon Musk contra la pared: ¿Grok ya no podrá desnudar a personas en X? Hay nuevas medidas

Después de duras críticas y toda la presión mundial, la red social X ha anunciado medidas contra Grok, el chatbot de inteligencia artificial de Elon Musk, para evitar la creación de imágenes sexualizadas. Hay algunas dudas sobre estos cambios, pero en general, ya no editará "imágenes de personas reales con ropa reveladora" en la plataforma X.

¿Qué pasó con Grok de Elon Musk?

Grok, es una herramienta de IA que integra creación y edición de imágenes en X. Sin embargo, algunos usuarios lo han usado para “desnudar digitalmente” fotos de personas reales y publicarlas sin su consentimiento. Esto incluye imágenes de menores de edad.

A raíz de esto, Grok quedó bajo escrutinio mundial por 'deepfakes sexuales'.

Tras la ola de críticas, Grok limitó la semana pasada la generación y edición de imágenes sólo para usuarios que pagan. Sin embargo, la presión ha crecido y se han anunciado nuevas medidas.

En un comunicado de la red social X se ha informado algunos cambios en Grok.

"Seguimos comprometidos a hacer de X una plataforma segura para todos y continuamos teniendo tolerancia cero hacia cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado", es lo primero que indicaron.

De acuerdo con la compañía, "hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis".

Esta limitación sería para todos, también para los suscriptores premium de X.

Aunado a esto, "la creación y edición de imágenes a través de la cuenta de Grok en la plataforma X ahora solo está disponible para suscriptores de pago. Esto añade una capa adicional de protección, ya que ayuda a garantizar que quienes intenten abusar de la cuenta de Grok para infringir la ley o nuestras políticas sean responsables", agrega el comunicado.

Grok también ha limitado geográficamente la creación y edición de imágenes explícitas en países donde tales usos son ilegales.

"Ahora bloqueamos geográficamente la capacidad de todos los usuarios de generar imágenes de personas reales en bikini, ropa interior y vestimenta similar a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde es ilegal", señalan.

Finalmente, la compañía ha reconocido que, "la rápida evolución de la IA generativa presenta desafíos para toda la industria".

"Trabajamos activamente con los usuarios, nuestros socios, organismos gubernamentales y otras plataformas para abordar los problemas con mayor rapidez a medida que surgen", añadieron.

El mundo contra Grok, la IA que desnuda

Vale recordar que hace menos de una semana, dos países ya habían anunciado el bloqueo de Grok por la creación de imágenes sexualizadas.

Indonesia y Malasia se convirtieron en los primeros países en prohibir el chatbot de xAI, la empresa de Musk.

En medio de todo esto, organizaciones como la Internet Watch Foundation (IWF), que combate la circulación de material de abuso sexual infantil, confirmó que la herramienta había creado imágenes sexualizadas de menores.

“Tras los informes que indican que la herramienta de IA Grok ha generado imágenes sexuales de menores, podemos confirmar que nuestros analistas han descubierto imágenes delictivas de menores de entre 11 y 13 años que parecen haber sido creadas con dicha herramienta", dijo Ngaire Alexander, jefa de Línea Directa.

En las últimas horas también se conoció que, el fiscal principal de California inició una investigación sobre la difusión de deepfakes de inteligencia artificial sexualizados generados por Grok.

------