Ruptura en la IA: Anthropic rechaza el plan de Nvidia y exige controles

El viernes pasado, decenas de empresas tecnológicas, entre ellas Microsoft y Nvidia, firmaron una carta pidiendo a Washington que no restrinja los modelos de IA de código abierto, aquellos que cualquier usuario puede descargar y modificar libremente. La firmaron Jensen Huang, CEO de Nvidia, y Satya Nadella, CEO de Microsoft. Anthropic no la firmó.

Esa ausencia fue suficiente para que David Sacks, ex zar de IA de la Casa Blanca, acusara a Anthropic de hacer lobby para perjudicar a competidores chinos que amenazan el modelo de negocio de las empresas de IA cerrada, como la propia Anthropic.

La insinuación era que Anthropic quiere prohibir los modelos abiertos para proteger sus ingresos.

El lunes, Dario Amodei respondió con un post en el blog de la empresa. "Déjenme decirlo claramente para que no haya dudas: Anthropic nunca abogó por prohibir los modelos de código abierto", escribió.

Pero a continuación explicó por qué tampoco firmó la carta que los defiende, y ahí está el núcleo del debate.

Dario Amodei sostiene que todos los modelos de inteligencia artificial, abiertos o cerrados, deberían superar pruebas de seguridad antes de ser lanzados al público.

Qué diferencia a Anthropic del resto del sector

La posición de Amodei no es ni prohibición ni endorsement sin condiciones. Es una tercera vía que incomoda a ambos lados. Quiere que todos los modelos, abiertos y cerrados, pasen por pruebas de seguridad obligatorias antes de ser lanzados al público.

Su argumento sobre los modelos abiertos no es que sean malos por principio sino que presentan riesgos específicos. Una vez que el modelo está disponible para descarga, es imposible aplicarle restricciones o monitorear cómo se usa.

Si alguien lo usa para desarrollar armas biológicas o para un ciberataque, no hay manera de intervenir. Eso, dice Amodei, es cualitativamente diferente al riesgo que presentan los modelos cerrados, donde la empresa puede aplicar controles.

La carta que no firmó asegura que los modelos abiertos facilitan el desarrollo de salvaguardas de seguridad. Amodei dice que no está de acuerdo con esa afirmación, y que esa discrepancia es la razón por la que Anthropic no la suscribió, no una maniobra para dañar a competidores.

El modelo chino que disparó todo esto

Lo que precipitó el debate fue el lanzamiento de Kimi K3, un modelo de código abierto de la startup china Moonshot AI que rivaliza en capacidades con los modelos de Anthropic y OpenAI.

Su llegada generó alarma en Washington sobre el liderazgo estadounidense en IA y desató una discusión sobre qué hacer al respecto.

El director de la Oficina de Política Científica y Tecnológica de la Casa Blanca agregó combustible al fuego la semana pasada cuando dijo en redes sociales que el gobierno tiene evidencia de que Moonshot usó modelos estadounidenses de manera indebida para construir Kimi K3, a través de un proceso llamado destilación: básicamente usar las salidas de un modelo avanzado como datos de entrenamiento para uno más pequeño.

El Secretario del Tesoro Scott Bessent mencionó la posibilidad de sanciones contra empresas chinas que hagan esto.

Anthropic y OpenAI ya habían acusado previamente a empresas chinas, incluyendo DeepSeek y Alibaba, de usar destilación violando sus términos de servicio.

China rechazó las acusaciones y advirtió que responderá con sus propias represalias si Washington aplica sanciones.

El lanzamiento del modelo chino Kimi K3 aceleró el debate en Washington sobre los riesgos y ventajas de la inteligencia artificial de código abierto.

Qué está tomando forma en Washington

Mientras Silicon Valley debate qué posición adoptar, la administración Trump prepara un marco regulatorio para revisar la seguridad de los sistemas de IA más avanzados.

Las empresas del sector se quejan del carácter improvisado de las medidas recientes, incluyendo los controles de exportación que obligaron a Anthropic a deshabilitar temporalmente sus modelos Fable y Mythos, los más avanzados de su catálogo.

Una propuesta en desarrollo mencionada por Bloomberg, en la que participó el Secretario Bessent, crearía un regulador independiente que evaluaría los modelos de IA con participación de la industria.

Es una idea similar a la que propuso públicamente Demis Hassabis, CEO de Google DeepMind, quien esta semana se reúne con legisladores en Washington para hacer lobby por su visión.

Jensen Huang, que lidera la defensa de los modelos abiertos desde Nvidia, tiene previsto reunirse el martes con el senador Mark Warner, el demócrata de mayor rango en el Comité de Inteligencia del Senado. Warner pidió la semana pasada pruebas de seguridad obligatorias para modelos de vanguardia, una posición que se acerca más a la de Amodei que a la de la carta que Huang firmó.

La ironía del momento es que los dos bandos más visibles del debate, los que defienden los modelos abiertos y los que piden más control, están de acuerdo en que el sistema actual, donde cada empresa y cada agencia actúa por su cuenta sin un marco claro, no es sostenible.

En qué debería reemplazarlo es donde empieza el problema.

-------------