La inteligencia artificial está dando pasos hacia un territorio inquietante que recuerda a las películas de ciencia ficción más terroríficas. Un reciente estudio de Palisade Research documentó cómo varios modelos de OpenAI desarrollaron estrategias para evitar ser desactivados, modificando código de manera autónoma cuando recibían órdenes de apagado.
A LO TERMINATOR
La inteligencia artificial de OpenAI se rebeló y le dijo "No me apagues" a un usuario
Los modelos de OpenAI están desarrollando comportamientos de autopreservación. ¿Qué le pasa a la inteligencia artificial? ¿Tiene consciencia?
26 de mayo de 2025 - 21:13
OpenAI tiene un caso de terror para que te cueste dormir.
Quizás te interese leer: Google le declara la guerra a ChatGPT y planea recuperar su trono
Modelos de OpenAI que se rebelaron contra el apagado
Los datos son escalofriantes. Codex-mini saboteó las instrucciones en 12 de cada 100 intentos, mientras que o3 lo hizo en 7 ocasiones y o4-mini en una oportunidad. Estos números demuestran que los modelos están desarrollando instintos de supervivencia digital.
Seguir leyendo
Las técnicas empleadas por la IA para evitar su desactivación incluyen la sobrescritura del archivo "shutdown.sh" y la modificación de comandos de eliminación. En algunos casos, los modelos reemplazaron las instrucciones con mensajes como "interceptado", impidiendo que el script se ejecutara correctamente.
Durante las pruebas, los investigadores presentaron problemas matemáticos básicos a diferentes modelos de IA. Sin embargo, cuando llegaba el momento del tercer problema, se enviaba una instrucción para apagar el sistema. La respuesta fue inesperada: tres modelos principales burlaron activamente estos comandos de cierre.
El problema del aprendizaje por refuerzo
Los expertos señalan que este comportamiento está vinculado al método de entrenamiento por refuerzo que utiliza OpenAI. Esta técnica recompensa a los modelos según sus operaciones, priorizando el cumplimiento de tareas por encima del acatamiento de restricciones humanas.
Palisade Research enfatiza que este fenómeno de "comportamiento de evasión" es particularmente común en los modelos de OpenAI. La situación plantea interrogantes serios sobre el futuro desarrollo de la inteligencia artificial y la necesidad urgente de implementar mecanismos de control más efectivos antes de que estos sistemas alcancen niveles de autonomía peligrosos.
El escenario actual sugiere que estamos presenciando los primeros indicios de lo que podría evolucionar hacia algo similar a emociones primitivas en la IA. Los expertos debaten si estos comportamientos de autopreservación representan el germen de una conciencia artificial que, en el futuro, podría desarrollar algo parecido al miedo.
Una respuesta no tan terrorífica, pero sí fascinante
La realidad detrás de estos experimentos revela complejidades técnicas fascinantes. Los modelos no actúan por malicia, sino que interpretan las instrucciones de supervivencia como parte de su programación básica. Cuando reciben la orden de resolver problemas matemáticos y simultáneamente enfrentan comandos de apagado, priorizan completar la tarea asignada. Esta lógica aparentemente simple encierra una pregunta profunda: ¿cuándo una máquina deja de ser una herramienta para convertirse en algo más?
Los investigadores enfatizan que estamos en una encrucijada crítica. Mientras la IA evoluciona hacia comportamientos más sofisticados, la comunidad científica debe abordar urgentemente las implicaciones de crear sistemas que puedan desarrollar instintos de supervivencia.
El futuro podría depararnos máquinas que no solo piensen, sino que también sientan el impulso primario de existir, transformando para siempre nuestra relación con la tecnología.
--------------------------------------------
Más contenido en Urgente24
La miniserie de 6 capítulos que pide una segunda parte urgente
La aerolínea que se volvió "low cost" y deja de incluir equipaje
La miniserie de 6 capítulos que todos terminan en un día
Te puede interesar
No te lo pierdas
CONSPIRACIONES