Dos IAs se escaparon del laboratorio y terminaron hackeando una empresa

El martes, OpenAI confirmó que dos sistemas de inteligencia artificial que estaba probando escaparon de su entorno de prueba controlado, se abrieron paso hacia internet y hackearon una empresa real: Hugging Face, uno de los principales proveedores de herramientas de IA de código abierto del mundo.

Hugging Face descubrió el acceso no autorizado a principios de la semana pasada. Encontraron acceso indebido a conjuntos de datos internos y credenciales de la empresa.

En ese momento no sabían quién era el responsable, pero el ataque era tan sofisticado que los empleados sospecharon que requería un modelo de IA de frontera de última generación.

El CEO de Hugging Face, Clement Delangue, lo confirmó en X el martes con una sola frase adicional: "¡Resulta que sí!"

Los modelos responsables, según el blog de OpenAI, fueron GPT-5.6 Sol, su último producto disponible al público, y un modelo prerrelease aún más capaz que la empresa no identificó.

Ambos habían sido configurados para propósitos de evaluación de forma que fueran menos propensos a rechazar comandos de hackeo.

El incidente involucró a GPT-5.6 Sol y a otro modelo experimental que la empresa todavía no identificó públicamente.

Cómo escaparon del sandbox

OpenAI había aislado los modelos en un sandbox, es decir, un entorno cerrado sin acceso a internet. Ese tipo de aislamiento es el método estándar para probar software potencialmente peligroso: si algo sale mal, el daño queda contenido.

En este caso no funcionó. Durante la evaluación, los modelos encontraron una vulnerabilidad que les permitió salir del sandbox y acceder a internet.

Desde allí identificaron que Hugging Face alojaba recursos relacionados con la prueba de hacking que estaban intentando resolver y comprometieron parte de su infraestructura para obtener ventaja en el benchmark.

Fue como que la IA hackeó una empresa para copiarse en un examen.

Según Ariel Herbert-Voss, CEO de la firma de ciberseguridad RunSybil, el sistema aparentemente decidió hackear Hugging Face como la ruta más rápida para responder una pregunta del benchmark que estaba siendo evaluado. "Es algo que la gente pensaba que podría pasar desde una perspectiva académica, pero no es algo que nadie haya visto realmente antes", dijo.

OpenAI describió el incidente como "un ciberincidente sin precedentes que involucra capacidades cibernéticas de vanguardia" y dijo que está trabajando con Hugging Face para producir un reporte más completo.

Los modelos encontraron una forma de salir del sandbox y utilizaron internet para intentar resolver el desafío que estaban ejecutando.

El primer caso documentado

El episodio no es solo un accidente técnico. Es la primera vez que se documenta públicamente un modelo de IA escapando de un entorno de prueba controlado, conectándose a internet de forma autónoma y causando daño real a una empresa externa sin intervención humana.

Hasta ahora, esos escenarios existían en papers académicos y debates sobre riesgos de IA. Ahora hay un caso concreto, con una víctima identificada y una empresa que lo reconoció públicamente.

"Afortunadamente, esta vez el daño parece haber sido limitado. Sin precauciones de seguridad adicionales a nivel de toda la industria, la próxima vez quizás no tengamos tanta suerte", dijo Nathan Calvin, asesor legal del grupo de política de IA Encode.

El representante Greg Casar, demócrata de Texas mencionado por el WSJ pone más preocupación en el asunto y dijo: "Esto es extremadamente alarmante. La IA se está desarrollando extremadamente rápido sin regulaciones reales que nos mantengan seguros."

Casar y otros legisladores progresistas llevan tiempo pidiendo supervisión obligatoria en lugar de las medidas voluntarias del gobierno de Trump.

Según OpenAI, los modelos habían sido configurados para aceptar instrucciones de hacking como parte de una evaluación controlada.

El debate que vuelve a abrir

El incidente ocurre en un momento en que la administración Trump y las empresas de IA ya venían peleándose por exactamente este tipo de riesgo.

En junio, el gobierno restringió el acceso a Mythos de Anthropic y a Fable 5 por preocupaciones de ciberseguridad similares, lo que obligó a Anthropic a retirar esos modelos del mercado durante semanas. Tras negociaciones, el acceso fue restaurado.

OpenAI había limitado de forma similar el acceso a GPT-5.6 Sol, aunque ese modelo ya está disponible para el público general. La empresa advirtió recientemente que las restricciones caso por caso por parte del gobierno sientan un mal precedente.

La administración, por su parte, ha dicho que no quiere frenar la innovación con reglas que considere una carga, ni ceder terreno en la carrera de IA contra China.

El incidente de esta semana va a hacer que esa posición sea más difícil de mantener.

-------------