Trump frenó una IA de Anthropic y ahora vuelve con nuevas condiciones

El martes por la noche, Anthropic y la administración Trump anunciaron un acuerdo que pone fin al cierre más largo que haya sufrido un modelo de IA líder en Estados Unidos. Fable 5, el modelo de acceso público de Anthropic basado en Mythos, estuvo inaccesible durante dos semanas y media.

Fable 5 quedó inhabilitado después de que el gobierno impusiera controles de exportación en junio, citando preocupaciones de seguridad sobre posibles jailbreaks, es decir, formas de saltear las restricciones del modelo para acceder a sus capacidades más peligrosas en ciberseguridad.

Según reportaron el Wall Street Journal y Wired, que accedió a la carta del secretario de Comercio Howard Lutnick enviada a Anthropic, los controles de exportación sobre Fable 5 y también sobre Mythos 5 quedan levantados.

"Ya no se requiere una licencia para la exportación, reexportación o transferencia dentro del país de los modelos Mythos o Fable", escribió Lutnick en la carta.

Anthropic comenzó a restaurar el acceso hoy miércoles. "Estamos agradecidos con nuestros usuarios por su paciencia y con todos los que trabajaron con nosotros en el redespliegue", dijo la empresa.

Fable 5 estuvo inaccesible durante dos semanas y media por preocupaciones de seguridad.

Qué tuvo que hacer Anthropic para llegar al acuerdo

El camino hasta el acuerdo no fue sencillo. Anthropic había argumentado durante semanas que las preocupaciones del gobierno eran exageradas y que era "prácticamente imposible" garantizar que ningún jailbreak pudiera desbloquear las capacidades restringidas del modelo.

Esa postura no funcionó. Según informó Wired, Anthropic cambió de estrategia: en lugar de seguir debatiendo si los jailbreaks podían eliminarse por completo, empezó a decirle al gobierno lo que quería escuchar.

Se comprometió a trabajar activamente para reducirlos, a construir salvaguardas más robustas y a colaborar con el gobierno en protocolos para futuros lanzamientos de modelos.

El cambio también tuvo un componente personal. El CEO Dario Amodei fue reemplazado en las reuniones con funcionarios por Tom Brown, el cofundador y jefe de cómputo de Anthropic, quien según funcionarios tenía mejor relación personal con los representantes del gobierno.

Trump elogió públicamente la respuesta de Amodei al conflicto, diciéndole a Axios que "respondió de manera muy responsable", aunque eso no impidió que el CEO quedara fuera de las negociaciones clave.

Dario Amodei, CEO de Anthropic, quedó en el centro de la disputa entre la empresa de IA y el gobierno estadounidense.

El nuevo salvaguarda implementado por Anthropic logra que la técnica que los investigadores de Amazon usaron para evadir las restricciones de Fable falle en el 99% de los casos, según la empresa. Para el 1% restante, Anthropic argumenta que los resultados no son considerados riesgosos porque contienen información públicamente disponible o no podrían ayudar a un actor malicioso.

Lo que esto cambia para toda la industria

El acuerdo es mucho más que el fin de un conflicto entre una empresa y un gobierno. Es el primer caso en que el gobierno de Estados Unidos forzó a un desarrollador de IA líder a bajar un modelo, y sienta un precedente sobre cómo va a funcionar esa relación de aquí en adelante.

Trump firmó recientemente un decreto ejecutivo que establece un nuevo marco: las empresas deberán darle al gobierno federal acceso a sus modelos 30 días antes de lanzarlos.

Anthropic acordó además trabajar con Amazon, Microsoft y Google para desarrollar un framework de consenso sobre cómo medir la gravedad de los jailbreaks y cómo deberían responder los desarrolladores de IA ante ellos.

Según reportó el WSJ, la administración Trump cambió de un enfoque de laissez-faire, básicamente dejando que la industria se regulara sola, a uno donde expertos en ciberseguridad y seguridad nacional tienen un rol activo en evaluar los modelos antes de que salgan al público.

La administración Trump convirtió la seguridad de la IA en una cuestión de política nacional.

FOTO: EP

El factor Amazon

El acuerdo también alivia la presión sobre Amazon, que se encuentra en una posición incómoda: es el mayor inversor de Anthropic, con 13.000 millones de dólares ya invertidos y hasta 20.000 millones más posibles, pero fue el CEO de Amazon, Andy Jassy, quien alertó al gobierno sobre las vulnerabilidades de Fable, desencadenando todo el conflicto.

La relación entre los dos meses anteriores de tensión con el gobierno y el proceso de OPI que Anthropic está preparando tampoco es menor.

La empresa está valuada en 965.000 millones de dólares y compite con OpenAI para salir a bolsa. Tener sus modelos más avanzados bloqueados durante casi tres semanas, en el momento en que más necesita demostrar estabilidad a los inversores, fue un golpe significativo. El acuerdo llegó justo a tiempo.

----------------