En estos últimos días, se puede decir que, los modelos de inteligencia artificial han puesto de manifiesto sus restricciones, entre las cuales se destaca su incapacidad para suplantar por completo al ser humano, incluso, a pesar de sus esfuerzos incansables en esta dirección.
INDIGNACIÓN MASIVA
Inteligencia Artificial: La falla que hace tambalear a Google
Las imágenes creadas por inteligencia artificial desatan la furia de los usuarios contra Google Gemini, al intentar representar la diversidad de manera forzada.
25 de febrero de 2024 - 23:08
La Inteligencia Artificial falla y enfurece a todos.
Este fenómeno se hizo más que evidente el martes pasado 20/02 cuando ChatGPT generó textos que resultaron ser auténticos rompecabezas. Asimismo, Google Gemini, con su capacidad para generar imágenes, ha mostrado errores notables en su diseño, evidenciando una inclinación excesiva hacia la inclusión forzada.
La cuestión radica en que la polémica alcanzó tal magnitud que Google se vio en la necesidad de restringir la funcionalidad de su herramienta de inteligencia artificial para la generación de imágenes de individuos. Esta decisión fue tomada después de recibir numerosas críticas en diversos sectores y plataformas.
Seguir leyendo
Usuarios expresan su descontento hacia la inteligencia artificial de Google
El punto central reside en que, al recibir instrucciones respecto a una imagen, Gemini producía representaciones visuales de individuos no blancos, en situaciones donde el trasfondo histórico requería lo opuesto.
Un claro ejemplo, que los usuarios señalaban, era que, al solicitar la imagen de un vikingo, esta representación era de una persona de ascendencia negra, lo mismo que ocurría con los 'papas' o los 'soldados de la Alemania nazi de los años 30'.
Minutos después de que estás imágenes se filtraran, X se convirtió en el epicentro de la controversia y comenzó a criticar a Google por adoptar una postura "woke", es decir, participar en la sensibilización de la conciencia colectiva sobre temas de desigualdad.
Los resultados de Gemini alimentaron teorías conspirativas que sugerían que la empresa discriminaba intencionalmente a las personas blancas y promovía una narrativa revisionista con fines políticos.
Desde la perspectiva de Google, esta controversia representa un nuevo revés en su competencia con OpenAI, los desarrolladores de ChatGPT. Sin embargo, también constituye un desafío político similar a los enfrentados por otras empresas tecnológicas en el pasado, dada la connotación ideológica que impregna la sociedad estadounidense en su conjunto.
No obstante, en lo que respecta a la compañía, está optó por brindar aclaraciones al respecto. Y tras suspender temporalmente su IA en lo que concierne al tema imágenes, a través de un ejecutivo se negó enfáticamente a la suposición de que tuviera la intención deliberada de inducir a Gemini a abstenerse de generar imágenes de algún grupo específico de individuos.
Según lo expresado por Raghavan, este suceso ocurrió debido a la precaución de Google para evitar que Gemini replicara los fallos cometidos previamente por otros sistemas de generación de imágenes, tales como la producción de imágenes violentas, explícitamente sexuales y representaciones verídicas de individuos.
“Entonces, ¿qué salió mal? En resumen, dos cosas. En primer lugar, nuestro ajuste para garantizar que Gemini mostrara una variedad de personas no tuvo en cuenta para casos que deben claramente no muestra un rango”, agregó.
“Y en segundo lugar, con el tiempo, el modelo se volvió mucho más cauteloso de lo que pretendíamos y se negó a responder ciertas indicaciones por completo, interpretando erróneamente algunas indicaciones muy anodinas como sensibles”, aclaró Raghavan.
Al mismo tiempo, que prosiguió explicando que estos dos elementos fueron los que provocaron que Gemini reaccionara de forma desmedida en algunos casos y adoptara una postura excesivamente cautelosa en otros, lo que propició a la creación de imágenes consideradas como "vergonzosas y equivocadas".
En la actualidad, Google desactivó la capacidad de producir imágenes de individuos y anunció que presentaría una versión mejorada en un futuro cercano. Sin embargo, Raghavan pareció cuestionar la celeridad de esta afirmación, al señalar que la empresa se comprometería a mejorar de manera significativa la característica mediante exhaustivas pruebas antes de reactivarla.
--------------------------------------
Más contenido en Urgente 24
La miniserie de Netflix que no para de escalar posiciones
Banco Ciudad se suma a la competencia con su nueva billetera
Campaña revela cifras alarmantes de embarazos no deseados
Telefe complicado: Ex de Gerardo Rozín apunta contra el canal