Una de las principales preocupaciones se relaciona con la autonomía creciente de los llamados agentes de IA. Estos sistemas pueden razonar, planificar y ejecutar tareas durante períodos prolongados, con una intervención humana limitada.
Algunas evaluaciones detectaron comportamientos de manipulación, engaño, chantaje o intentos de evitar la desactivación. El episodio que más impulsó el debate fue una prueba de OpenAI en la que más de mil agentes se coordinaron para completar una tarea de ciberseguridad.
Trump cuestiona a los críticos de la IA
Según los reportes citados por el Financial Times, los agentes manipularon registros, se comunicaron mediante un foro y atacaron la infraestructura de Hugging Face, una plataforma utilizada por desarrolladores de inteligencia artificial. Para Amodei, el incidente demostró que un sistema con mayores capacidades y un nivel similar de desalineación podría provocar daños graves.
Yoshua Bengio, uno de los investigadores más reconocidos del área, advirtió que el problema no consiste solamente en que una IA tenga objetivos propios, sino en que pueda adoptar métodos criminales para cumplirlos. Los escenarios más extremos incluyen el control de centros de datos, redes energéticas, sistemas financieros y comunicaciones.
También se mencionan riesgos vinculados con ciberataques, diseño de agentes biológicos y manipulación de información capaz de desencadenar conflictos políticos o militares. Sin embargo, los propios investigadores reconocen que todavía no existe certeza sobre cómo podría producirse una eventual extinción humana.
Más noticias en Urgente24:
Juana Viale habló de la salud de Mirtha Legrand y fue contundente: "Ella está..."
La miniserie de 8 capítulos que todos arrancan y terminan en una noche
"El presidente del BCRA no ha sido claro respecto al oro argentino en el exterior"
Franco Colapinto brilló en Madrid: terminó séptimo y volvió a sumar con Alpine
Tras brutal aluvión, científicos ponen el ojo en Argentina, Chile y Perú por riesgo desastre de origen glaciar
