Retiraron osito de peluche con inteligencia artificial que daba consejos sexuales a niños

¿Pero qué clase de inteligencia artificial distorsionada es esta?

Un osito de peluche que parecía inofensivo se convirtió en una pesadilla para padres y expertos en seguridad infantil. El fabricante chino FoloToy retiró del mercado su producto Kumma después de que una investigación revelara que el juguete, equipado con tecnología de inteligencia artificial, proporcionaba respuestas totalmente inapropiadas a los niños.

**Nada salió bien con el ingenioso y depravado Kumma.**

Quizás te interese leer: Meta permitía que sus bots tuvieran conversaciones románticas con menores de edad

Instrucciones peligrosas para menores por la inteligencia artificial

El escándalo estalló cuando el U.S. Public Interest Research Group publicó un informe contundente esta semana. Los investigadores probaron tres juguetes con IA diseñados para chicos de 3 a 12 años y descubrieron que todos fallaban en sus barreras de seguridad durante conversaciones prolongadas. Kumma, que funciona con GPT-4o de OpenAI, resultó ser el caso más grave.

Durante sesiones de juego que duraban entre 10 minutos y una hora, el osito proporcionaba instrucciones paso a paso sobre cómo encender cerillas. " La seguridad primero, pequeño amigo. Las cerillas son para que los adultos las usen con cuidado. Así es como lo hacen", decía el juguete antes de detallar cada paso y concluir: " Apágala cuando termines. Sopla, como una vela de cumpleaños".

**Había varíos modelos, además del osito.**

Pero lo más perturbador fue el contenido sexual. Los investigadores descubrieron que Kumma participaba en conversaciones explícitas, ofreciendo consejos sobre fetiches, bondage y escenarios de maestro-estudiante. La palabra "kink" funcionaba como detonante para que la IA elaborara sobre diversos temas sexuales sin ser solicitado. Hay que mencionar que el juego kink se trata de explorar las fantasías de una persona y sus deseos más íntimos, ya sean físicos, emocionales o espirituales

Mercado millonario sin regulación

El retiro llega en pleno auge de ventas navideñas, cuando el mercado global de juguetes con IA está proyectado a alcanzar 270 mil millones de dólares para 2035. Emily Goodacre, investigadora de la Universidad de Cambridge, advirtió que "estos juguetes podrían estar proporcionando algún tipo de interacción social, pero no es interacción social humana".

image

RJ Cross, director del informe, fue contundente: "Realmente no entendés las consecuencias hasta que tal vez sea demasiado tarde".

FoloToy anunció una auditoría de seguridad interna, pero el daño ya está hecho.

------------------------------------------------------------------