Descubrí por qué la Unión Europea tuvo que mandar funcionarios a San Francisco para conseguir que Anthropic les mostrara Mythos, su tecnología más peligrosa.
Mythos fue diseñado para identificar y explotar vulnerabilidades informáticas, por lo que su acceso sigue siendo limitado.
La Unión Europea consiguió lo que venía buscando desde hace semanas: acceso a Mythos, el modelo de inteligencia artificial más avanzado de Anthropic. La empresa confirmó que la agencia de ciberseguridad de la UE se sumará al Proyecto Glasswing, la iniciativa que Anthropic creó para permitir que organizaciones clave prueben Mythos antes de que esté disponible más ampliamente.
Según informó Bloomberg, la decisión fue comunicada a la Comisión Europea durante el fin de semana.
Lo que llama la atención es el proceso. Funcionarios de la Comisión Europea, el brazo ejecutivo de la UE equivalente a un gobierno central, tuvieron que viajar físicamente a San Francisco el jueves pasado para sentarse con directivos de Anthropic y pedir acceso al modelo.
Semanas de gestiones a distancia no habían dado resultado. Una startup tuvo que recibir una delegación oficial europea como si fuera una negociación diplomática, porque en cierta forma lo es.
Mythos no es un chatbot o un asistente de inteligencia artificial convencional. Anthropic describió al modelo como extraordinariamente capaz de encontrar vulnerabilidades en redes informáticas y de explotarlas.
Es una herramienta que puede detectar las grietas en sistemas de computadoras y usarlas para entrar. Eso lo convierte en un riesgo serio si cae en manos equivocadas, y explica por qué desde su presentación en abril el acceso fue deliberadamente limitado.
Hasta ahora, las organizaciones que pudieron probarlo son un grupo muy selecto que incluye a autoridades estadounidenses, algunas instituciones financieras de ese país como Goldman Sachs, y el Instituto de Seguridad de IA del Reino Unido. La incorporación de ENISA amplía ese círculo hacia Europa, pero el modelo sigue sin estar disponible para el público general ni para la mayoría de las empresas.
Que Europa tuviera que negociar durante semanas y finalmente mandar funcionarios en persona para acceder a una tecnología que considera crítica para su seguridad es una señal de que los gobiernos llegaron tarde al control de estas herramientas.
Mientras los estados debaten marcos regulatorios, las empresas privadas ya tomaron decisiones sobre quién puede ver sus modelos más poderosos, en qué condiciones y bajo qué criterios.
Anthropic, en ese sentido, está manejando el acceso a Mythos como si fuera un activo estratégico de seguridad nacional, eligiendo a qué gobiernos e instituciones les da acceso y en qué orden.
Que Goldman Sachs haya tenido acceso antes que la agencia de ciberseguridad de un bloque de 450 millones de personas dice bastante sobre cómo se está distribuyendo ese poder.
El Proyecto Glasswing fue diseñado para que organizaciones de confianza prueben Mythos antes de su lanzamiento amplio.
Según reportó Bloomberg, ese lanzamiento podría ocurrir en las próximas semanas.
Cuando eso suceda, el debate ya no será sobre quién tiene acceso sino sobre qué hace cada uno con él, y si los mecanismos de control que existen hoy son suficientes para una herramienta que la propia empresa describe como un riesgo mayor para infraestructura crítica.
--------------
Arde El Trece por la advertencia que encendió alarmas: "Hay un quilombo que va a explotar"
Franco Colapinto lanzó una dura advertencia que preocupa a todos: "Difícil"
Chiche Gelblung reapareció en medio de su internación y reveló qué noticia lo tiene en vilo