Por qué los jefes de Google, OpenAI y Anthropic creen que la inteligencia artificial podría facilitar la creación de bioarmas y qué dice la carta que firmaron.
Los líderes de las principales empresas de inteligencia artificial pidieron nuevas regulaciones para evitar que la tecnología facilite la creación de bioarmas.
Las bioarmas volvieron al centro del debate tecnológico. Los líderes de algunas de las empresas de inteligencia artificial más poderosas del mundo acaban de pedir al Congreso de Estados Unidos que actúe antes de que la tecnología reduzca las barreras para desarrollarlas.
En 2017, un grupo de investigadores canadienses recreó un virus extinto usando ADN comprado por correo. El costo total fue de 100.000 dólares. Los críticos señalaron de inmediato que la misma metodología podría usarse para construir viruela, un virus estrechamente relacionado y potencialmente letal. No lo hicieron con intenciones maliciosas, querían demostrar que era posible. Lo demostraron.
Desde entonces, el proceso de síntesis genética, que consiste básicamente en "imprimir" secuencias de ADN o ARN a medida, se volvió más barato, más rápido y más accesible.
Hoy hay decenas de empresas en todo el mundo que venden secuencias genéticas personalizadas para investigación científica, desarrollo de medicamentos y diagnósticos. No todas verifican quién les compra ni qué están pidiendo.
Ahora sumale inteligencia artificial a esa ecuación.
Los CEOs de las cuatro empresas de IA más influyentes del mundo, Demis Hassabis de Google DeepMind, Sam Altman de OpenAI, Dario Amodei de Anthropic y Mustafa Suleyman de Microsoft AI, firmaron una carta pública dirigida al Congreso de Estados Unidos pidiendo nuevas leyes que obliguen a las empresas de síntesis de ADN a verificar a sus clientes y a filtrar los pedidos peligrosos.
La carta, organizada por el Instituto para el Progreso y la Fundación para la Innovación Americana, reconoce que dado el ritmo de desarrollo de la IA, existe una posibilidad real de que las barreras que históricamente impidieron a actores maliciosos desarrollar armas biológicas se erosionen de forma significativa.
David Relman, microbiólogo y experto en bioseguridad de la Universidad de Stanford que también firmó la carta, lo explicó: las herramientas de IA ya permiten identificar rápidamente qué proveedores de ADN no hacen controles, y si se las interroga correctamente, pueden indicar cómo modificar un pedido para que incluso los que sí filtran no detecten qué se está intentando fabricar.
Según Wired, el año pasado, investigadores de Microsoft publicaron un estudio mostrando que las propias herramientas de diseño de proteínas con IA fueron capaces de generar secuencias genéticas potencialmente peligrosas que pasaron los filtros de seguridad de las empresas sin ser detectadas.
Los modelos sugirieron secuencias nuevas con estructuras similares a las de organismos conocidos como peligrosos, pero lo suficientemente distintas para evadir el software de control.
En otras palabras, la solución que se propone para el problema tiene el mismo problema que el problema. Los filtros de seguridad pueden fallar, y la IA puede ayudar a que fallen.
Geoff Ralston, ex presidente de Y Combinator, fue más directo y dijo que los propios laboratorios de IA con modelos de biología deberían hacer su propio control de usuarios.
"Debería ser muy difícil, si no imposible, pedirle a un modelo que te ayude a hacer algo inminentemente peligroso", dijo.
Durante la administración Biden se introdujeron lineamientos federales que exigían a científicos y empresas que reciben fondos públicos comprar secuencias genéticas solo a proveedores que filtren los pedidos.
Este año, un proyecto de ley bipartidista en el Senado busca extender esa obligación a todos los proveedores de síntesis genética que operen en Estados Unidos, independientemente de si reciben o no financiamiento federal.
Algunas empresas del sector ya aplican controles voluntarios.
Twist Bioscience y Ansa Biotechnologies, cuyos ejecutivos también firmaron la carta, son parte del Consorcio Internacional de Síntesis Genética, que desde 2009 implementa prácticas voluntarias de filtrado. Pero voluntario significa que no todos lo hacen, y que quienes quieran evadir los controles saben exactamente a quién comprarle.
Un ataque bioterrorista con IA no requeriría el aparato de un Estado ni décadas de investigación científica especializada.
Requeriría conocimiento biológico suficiente, acceso a herramientas de IA que ya existen, y proveedores de ADN que no pregunten demasiado.
La carta no fue firmada solo por los jefes de Google DeepMind, OpenAI, Anthropic y Microsoft AI. También la respaldaron otras 69 personas vinculadas a áreas como síntesis de ADN, biotecnología, ciencias de la vida, seguridad nacional y políticas públicas.
Los firmantes de la carta no dicen que ese escenario sea inminente. Dicen que las barreras que lo hacían improbable están bajando, y que el momento de actuar es antes de que alguien demuestre que era posible, como hicieron aquellos investigadores canadienses en 2017, pero esta vez sin intenciones académicas.
--------------
Senado: Javier Milei ganó tiempo pero el pliego de Michelli quema
Mauricio Macri mide su fuerza en el interior para sumar presión sobre Javier Milei
Pasaron 4 semanas desde que Milei dijera que presentación de DDJJ de Adorni era "inminente"
La otra cara del Ni Una Menos: ¿Qué rol debería asumir el varón?
Expansión del universo: Por qué la ciencia dice que no hay "afuera"