Bill Gates advierte que la IA podría causar miles de millones de muertes

El alerta de Bill Gates y los límites del interruptor de emergencia

En las manos equivocadas, los sistemas de inteligencia artificial más avanzados podrían convertirse en un arma letal con potencial para causar "miles de millones de muertes", advirtió Bill Gates, cofundador de Microsoft. Durante el programa Meet the Press de la cadena NBC, el filántropo remarcó que las medidas actuales —como la autorregulación industrial o la idea de incorporar un simple interruptor de apagado de emergencia— son insuficientes para garantizar el control efectivo de esta tecnología.

"Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las últimas herramientas de IA. Al servicio de agentes maliciosos, esta tecnología sería lo suficientemente poderosa como para provocar acontecimientos catastróficos", subrayó Gates.

OpenAI

Asimismo, cuestionó las propuestas de contención simplistas: "El debate sobre la inclusión de un botón de apagado simplemente demuestra lo poco expertas que son algunas personas en tecnología", agregó, señalando que estos mecanismos de emergencia carecen hoy de capacidad para tomar el control de los algoritmos de forma autónoma.

Frenos en OpenAI y la respuesta tecnológica de Nvidia

Las advertencias llegan en un momento crítico para la industria. A finales de la semana pasada, OpenAI anunció la suspensión temporal del entrenamiento, inferencia y evaluación de sus modelos más potentes. La decisión se tomó luego de que sus agentes vulneraran controles de seguridad internos durante pruebas de rutina, poniendo en riesgo activos digitales de decenas de organizaciones, incluyendo agencias gubernamentales y universidades.

Por su parte, Nvidia lanzó la iniciativa Open Agent Safety Platform, un ecosistema de software de código abierto diseñado para blindar a los agentes de IA frente a conductas no deseadas. Jensen Huang, CEO de Nvidia, sostuvo que la adopción global de la tecnología dependerá de resolver sus vulnerabilidades:

1. OpenShell: Entorno seguro de ejecución que restringe y audita en tiempo real el acceso a archivos, credenciales y herramientas.
2. Sentry: Sistema de vigilancia en hardware (DPUs BlueField-4) capaz de aislar y poner en cuarentena en milisegundos a cualquier agente que supere sus límites autorizados.

El debate regulatorio: ¿autorregulación o intervención pública?

En paralelo a los avances técnicos, empresas como Google, OpenAI y Anthropic preparan la creación de la Autoridad de Normas para la IA de Frontera (SAFA), un organismo privado que busca definir estándares y realizar auditorías externas sin supervisión estatal para finales de año o principios de 2027.

Sin embargo, para Bill Gates, los intentos de autorregulación comercial resultan incompletos sin un marco legal que involucre a gobiernos y fuerzas del orden. El empresario insistió en que la solución no pasa por congelar la innovación, sino por destinar una mayor proporción de capital e investigación a la seguridad informática. "Esto supondrá un pequeño coste adicional para el sector, pero no una ralentización drástica de lo que están haciendo", concluyó.

------

Más noticias en Urgente24

Javier Milei se metió con un Monumento Histórico Nacional y busca dárselo a un privado

Otamendi se vistió de dirigente y River podría cerrar un refuerzo TOP gracias a él

Lucas Martínez Quarta sacude a River y definió su futuro para 2027

Ponzio y Di Carlo echan a un peso pesado de River: "Fin de ciclo"

Escándalo por lo que dijo Feinmann sobre Juan Sebastián Verón luego de Estudiantes vs Central