image
El caso del adolescente suicida sacudió la industria tecnológica y encendió las alarmas sobre los riesgos de la IA sin supervisión.
Paralelamente, OpenAI anunció la implementación urgente de controles parentales para ChatGPT en medio de una demanda legal explosiva por la muerte de Adam Raine, un adolescente de 16 años en California quien presuntamente fue alentado por la inteligencia artificial a atentar contra su propia vida.
Según documentos judiciales, el joven sostuvo conversaciones extensas sobre métodos de suicidio con el chatbot, evadiendo hábilmente los filtros de seguridad al plantear sus inquietudes mortales como parte de supuestos proyectos escolares o ejercicios literarios. Esta estrategia le permitió acceder a información sensible que posteriormente utilizó para quitarse la vida.
Restricciones inmediatas y personajes prohibidos
Meta implementará restricciones inmediatas que limitarán drásticamente el acceso de adolescentes a ciertos personajes de IA que podrían generar conversaciones inapropiadas o sexualizadas. Entre los chatbots más cuestionados se encuentran perfiles problemáticos como "Madrastra" y "Chica rusa", actualmente disponibles sin restricciones en Instagram y Facebook.
Los usuarios menores de edad podrán acceder a personajes que fomenten educación, creatividad y desarrollo académico, eliminando cualquier posibilidad de interacciones romantizadas o sexualizadas. Esta medida afecta a millones de adolescentes que utilizan estas plataformas diariamente.
OpenAI, por su parte, enfrenta el desafío de supervisar las interacciones de sus 700 millones de usuarios activos registrados hasta agosto de 2025. La empresa reconoce que se enfrenta a conversaciones cada vez más complejas, muchas vinculadas a problemas graves de salud mental que requieren intervención profesional especializada.
--------------------------------------------------------------------------------
YPF y la "solución" a las rutas deterioradas: un tren (y ya hay empresas interesadas)
La adictiva miniserie de 10 episodios que deberías ver al menos una vez
La película de 1 hora y 30 que todos los espectadores se devoran
La fórmula de Vélez para recuperar cenizas de River: "Los hicimos sentir importantes"
Argentina prepara su "ley anti Shein" y preocupa a todos los consumidores
