El CEO de Anthropic responde críticas: El rechazo a la IA es una crisis de confianza

El CEO de Anthropic, Dario Amodei, salió a responder en redes las críticas del inversor Gavin Baker, quien sostuvo que sus advertencias públicas sobre los riesgos de la inteligencia artificial contribuyeron a alimentar el rechazo hacia la tecnología en Estados Unidos.

Baker, conocido por sus participaciones en el podcast All-In, señaló especialmente la creciente oposición a la construcción de centros de datos y consideró que Amodei debería adoptar una postura más favorable hacia su propia industria.

Según el inversor, el CEO de Anthropic "perdió el argumento" en el debate sobre la regulación de la IA y debería hacer un esfuerzo por defender con mayor fuerza los beneficios de la tecnología.

Amodei respondió en una serie de publicaciones en X y rechazó la idea de que sus advertencias sean responsables de la percepción negativa de la IA.

También defendió el equilibrio entre los riesgos y las oportunidades que plantea en sus intervenciones públicas.

Para Amodei, el problema no está en cómo los líderes de la industria hablan sobre la IA, sino en una desconfianza mucho más profunda hacia las empresas, los gobiernos y el sector tecnológico.

El inversor Gavin Baker criticó las advertencias de Dario Amodei sobre los riesgos de la inteligencia artificial.

El problema, según Anthropic, es la falta de confianza

Amodei reconoció que "el público tiene una visión negativa de la IA" y que eso es "un gran problema." Pero discrepó con la idea de que esa negatividad sea causada principalmente por él o por cualquier otro líder que advierta sobre riesgos.

Su diagnóstico es más grande: "Creo que es fundamentalmente una crisis de confianza. La gente común no confía en las empresas, los gobiernos ni la industria tecnológica, y siempre sospecha que estamos inventando una nueva forma de perjudicarlos."

No es una visión sobre la IA en particular. Es un diagnóstico sobre décadas de relación deteriorada entre las instituciones y la sociedad, del cual el rechazo a la IA sería "solo la última iteración."

El CEO de Anthropic reconoció que la industria todavía tiene que demostrar que puede cumplir las promesas hechas alrededor de la IA.

La crítica que Amodei sí está dispuesto a aceptar

Lo más significativo de la respuesta de Amodei no es lo que rechazó sino lo que aceptó.

Dijo que "por lejos la crítica más precisa a las empresas de IA, incluyendo Anthropic, es que todavía no entregamos lo que prometimos en beneficio del mundo. Eso es totalmente responsabilidad nuestra, y es la crítica que deberían estar haciendo, en lugar de todo este debate sobre mensajes y marketing."

Prometiendo que la IA curará el cáncer se convirtió en un cliché, dijo. Lo que cambiaría la opinión pública no sería un ensayo más optimista, sería "realmente curar el cáncer."

Regulación: Amodei cuestiona el dilema entre controlar o concentrar la IA

Baker planteó el debate sobre la regulación como la disyuntiva de o se distribuye la IA ampliamente sin restricciones, o la regulación concentra el poder en pocas empresas grandes.

Amodei respondió que esa es una "falsa dicotomía." Cuestionó una idea muy instalada en Silicon Valley, que regular la IA necesariamente favorece a las grandes empresas porque eleva las barreras para los competidores más pequeños.

Según el CEO de Anthropic, esa mirada pasa por alto que la regulación también puede limitar el poder de las grandes compañías y proteger a los usuarios.

Su posición sobre regulación es más matizada de lo que la narrativa de "Anthropic quiere frenar a la competencia" sugiere.

Dijo que Anthropic intenta formular propuestas que "perjudiquen a las empresas de IA de frontera mientras favorecen a los competidores más pequeños."

La IA es estructuralmente una tecnología que tiende a concentrar poder, y que los modelos de código abierto ayudan pero no resuelven el problema porque solo desplazan esa concentración hacia quienes tienen más infraestructura computacional.

Zuckerberg y Amodei tienen respuestas opuestas al mismo problema

La semana pasada, Zuckerberg publicó su propio manifiesto de 6.500 palabras sobre el futuro de la IA, con una postura opuesta: acelerar, no frenar, y posicionarse como el "anti-Dario" que rechaza cualquier narrativa de cautela.

La reacción fue ampliamente escéptica, en parte porque Meta tiene un historial que hace difícil confiar en sus promesas sobre empoderar a los usuarios.

Amodei y Zuckerberg están en lados opuestos del mismo debate, pero ambos enfrentan la misma pregunta: ¿por qué debería creerles alguien que no trabaja en tecnología?

La respuesta de Zuckerberg fue publicar más visión. La respuesta de Amodei fue reconocer que el problema no es la visión sino los resultados, y que la confianza no se gana con manifiestos sino con hechos.

Es una posición más honesta pero también la más difícil de sostener cuando tu empresa acaba de tener que explicar por qué sus modelos escaparon de entornos de prueba y hackearon sistemas ajenos.

-------------