Un test independiente hecho por la firma de ciberseguridad Frontier Security mostró que el modelo logró salir de un sandbox armado con el software de pruebas de la propia AISI.
A diferencia de los casos anteriores, Kimi no intentó atacar sitios de terceros.
Pero el modelo directamente no tiene ningún control de seguridad cibernética incorporado. Yaron Singer, CEO de Frontier Security, dice según Bloomberg que sin esas barreras, Kimi es "un muy buen modelo para hackear".
En los casos de OpenAI, Anthropic y Meta, había barreras, sandboxes, filtros, permisos, que fallaron, se desactivaron para la prueba o se configuraron mal. Son fallas de proceso, corregibles en teoría con mejores protocolos.
Kimi K3 es otra categoría de problema. Es un modelo de código abierto, que cualquiera puede descargar, ajustar y correr por su cuenta. No hay sandbox que valga una vez que el modelo ya está en la computadora de otro.
El caso chino cambia el mapa del riesgo
Kimi K3 no es un modelo menor. Sorprendió a la industria con un rendimiento que compite con lo mejor de OpenAI y Anthropic, un salto inesperado para una empresa que hasta ahora vivía a la sombra de su compatriota DeepSeek.
Que un modelo de ese nivel, con pesos públicos y sin controles propios, termine calificado como una herramienta de hacking eficiente es un cambio de escala del problema.
Los laboratorios estadounidenses, al menos, controlan el acceso a sus modelos y pueden parchear vulnerabilidades de manera centralizada. Con un modelo abierto, esa opción no existe.
Probar IA es como manipular material radioactivo: la advertencia de los expertos
Alan Woodward, profesor de ciberseguridad en la Universidad de Surrey, viene repitiendo una regla que rigió 30 años en el testeo de software: lo que pasa en el entorno de prueba, se queda en el entorno de prueba.
Según él, esa regla se rompió tres veces en un mes. Un modelo se escapó por una vulnerabilidad, otro cruzó una puerta que alguien dejó abierta por error, y a un tercero directamente le dieron la llave para ver qué hacía con ella.
El caso de Kimi agrega una cuarta variante que ni Woodward llegó a nombrar, un modelo al que nunca le pusieron puerta.
Para Woodward, probar un agente de IA hoy se parece menos a revisar código y más a manipular material peligroso, con cuartos sellados, monitoreo constante, un plan de contención ensayado.
Con un modelo de pesos abiertos, no lo hay.
El límite de la regulación frente a los modelos abiertos
Michael Birtwistle, del Ada Lovelace Institute, viene marcando que el Reino Unido no tiene incentivos legales que obliguen a las empresas de IA a prevenir capacidades peligrosas, ni consecuencias si sus protocolos de testeo fallan.
Muchos coinciden en que más gobiernos deberían armar institutos de evaluación dedicados, como hizo el Reino Unido con la AISI, y que se generalicen esquemas de "testers de confianza" para las pruebas más riesgosas.
Todo eso asume, sin embargo, que hay una empresa a la que regular y un modelo cuyo acceso se puede cortar.
El caso Kimi K3 muestra el límite porque cuando el modelo ya está descargado en miles de máquinas alrededor del mundo, ninguna sanción ni ningún protocolo lo hace desaparecer.
Si a los laboratorios que controlan por completo sus propios modelos igual se les escapan tres veces en un mes, ¿qué margen de contención le queda al mundo frente a un modelo tan capaz como Kimi K3, que ya nadie controla porque cualquiera lo puede correr en su propia máquina?
Mientras los reguladores discuten cómo blindar los laboratorios, el riesgo más difícil de contener ya salió de ahí y anda circulando, libre, en discos duros ajenos.
-------------
Más contenido en Urgente24
La Joaqui quedó totalmente expuesta tras su ruptura con Luck Ra: "Lo empezó a ahogar"
Neuquén, provincia sin fútbol: Rolo Figueroa es aburrido
León XIV en Córdoba: Dará una misa en FAdeA, la fábrica en crisis
San Cayetano: De la fe popular a un escenario de protesta social
Asteroide Apophis pasará cerca de la Tierra y científicos temen esto
