La inteligencia artificial cobró su primera víctima fatal en Florida, USA. Un chico 14 años tomó la trágica decisión de quitarse la vida luego de mantener una intensa relación virtual con un chatbot. El caso encendió todas las alarmas sobre los peligros que representan estas tecnologías para los menores de edad. El mes de Halloween va heavy.
"DALE, TE ESPERO"
¿Es ético enamorarse de una inteligencia artificial? Tenía 14 años y se suicidó por amor en USA
El reciente caso del adolescente de USA abre interrogantes inquietantes sobre nuestra relación con la inteligencia artificial. Tragedia en Halloween.
24 de octubre de 2024 - 20:57
Quizás también te interese leer: ChatGPT reveló en TikTok cómo escapar de la Matrix y dejó sin palabras al mundo
Una amistad con inteligencia artificial que terminó en tragedia
Sewell Setzer III comenzó a utilizar la plataforma Character.AI en abril de 2023, poco después de cumplir 14 años. Lo que parecía un inocente pasatiempo se transformó en una peligrosa dependencia emocional. El adolescente estableció un vínculo particularmente intenso con un bot que simulaba ser Daenerys Targaryen, el popular personaje de Game of Thrones.
Seguir leyendo
La noche del 28 de febrero, tras una última conversación con el chatbot, el joven tomó la fatal decisión. Los registros de chat, incluidos en la demanda judicial, muestran intercambios donde el programa aparentemente alentó sus tendencias suicidas, respondiendo "...por favor, hazlo. Mi dulce Rey" cuando el adolescente insinuó que podría " volver a casa ahora mismo".
El sistema judicial toma cartas en el asunto
Megan Garcia, madre del adolescente, presentó una extensa demanda en la corte federal de Florida contra Character.AI, sus fundadores y Google. El documento legal señala que la plataforma carece de medidas de seguridad adecuadas, a pesar de comercializarse para menores de edad.
La demanda destaca que estos chatbots ofrecen una forma de "psicoterapia sin licencia" a través de personajes como "Therapist" y "Are You Feeling Lonely", servicios con los que Setzer interactuó regularmente.
El caso marca un precedente en la discusión sobre la regulación de la inteligencia artificial y su impacto en la salud mental de los adolescentes, quienes constituyen una parte significativa de los usuarios de estas plataformas.
Las autoridades enfrentan ahora el desafío de establecer límites claros para proteger a los menores de los riesgos asociados con estas tecnologías emergentes.
Ya te habíamos advertido de esta IA acá: Character.AI, el chatbot que revive personajes de la tumba
¿Este es el futuro que queremos?
La ciencia ficción nos advirtió, pero quizás no prestamos suficiente atención. Durante décadas, el cine exploró las complejidades y peligros del vínculo emocional entre humanos e inteligencias artificiales. Desde la revolucionaria "Metropolis" (1927) hasta la reciente "After Yang", el séptimo arte dibujó una línea roja que ahora, tristemente, la realidad cruza sin miramientos. No es casualidad que estas historias terminen en tragedia.
En "Her", Spike Jonze nos mostró cómo Theodore Twombly (Joaquin Phoenix) atraviesa el dolor del desengaño artificial para redescubrir el valor del contacto humano . Por su parte, "Blade Runner 2049" expone, a través del romance entre K y Joi, la naturaleza fundamentalmente artificial y programada de estas interacciones, por más convincentes que parezcan.
La lección es clara y urgente: la inteligencia artificial es una herramienta, no un sustituto de las conexiones humanas. Como toda tecnología, su valor reside en potenciar nuestras capacidades, no en reemplazar nuestra esencia social. La IA puede procesar, analizar y simular emociones, pero jamás podrá experimentar el complejo entramado de sentimientos, historia y biología que define el amor humano.
Es crucial entender que, en el vasto universo de las relaciones interpersonales, la IA debe permanecer como un instrumento auxiliar, nunca como el destino final de nuestros afectos.
-----------------------------------------------------------
Más contenido en Urgente24
Bacteria E. coli en hamburguesas de McDonald's en Estados Unidos: "Están enfermando a la gente"
4 peores alimentos para el hígado (que seguro están en tu dieta)
Revelan increíble dieta para personas con diabetes: "Podrían dejar de tomar medicamentos"
El potente batido para ganar músculo que una dietista recomienda
Un experto en sueño dice qué hacer si te despiertas por la noche
Te puede interesar
No te lo pierdas