Alarma total en la ONU por la IA: Los derechos humanos están bajo amenaza

Dura advertencia de la ONU.

La Organización de las Naciones Unidas (ONU) aprovechó la oportunidad para avanzar con críticas a la falta de regulaciones respecto al desarrollo y uso de la inteligencia artificial (IA) alrededor del mundo. Con una fuerte advertencia, el organismo internacional se sumó a la ola de alarmas que desataron los principales desarrollistas en Estados Unidos, incluyendo a Sam Altman (Open AI) y Elon Musk (Grok).

Las declaraciones más contundentes al respecto fueron vertidas por Dario Amodei, el director ejecutivo de Anthropic, quien convocó a la comunidad internacional a restarle velocidad a los desarrollos de la IA ante el riesgo cada vez más latente de un futuro descontrolado.

En ese sentido, el comisionado de la ONU para los Derechos Humanos, Volker Türk, señaló la necesidad de una acción “urgente” para mitigar los riesgos cada vez mayores de un resultado descontrolado sobre el desarrollo de la IA. El funcionario internacional instó a los estados y empresas a “movilizarse urgentemente” para encuadrar a la tecnología en un marco legal que brinde seguridad.

“Insto a los Estados y a las empresas a movilizarse urgentemente en el marco de instancias multilaterales. Todos los derechos humanos están amenazados", aseguró. “Insto a los Estados y a las empresas a movilizarse urgentemente en el marco de instancias multilaterales. Todos los derechos humanos están amenazados", aseguró.

La IA y su desarrollo, una amenaza a ojos de la ONU.

La ONU contra la Casa Blanca

Con sus declaraciones, la ONU volvió a posicionarse en las antípodas de la Casa Blanca y la administración de Donald Trump. En ese sentido, Türk destacó que el rumbo actual deriva en una realidad en el que un número acotado de empresas dejarán a merced de sus decisiones el destino de la humanidad.

“Estamos en los albores de un cambio irreversible que no solo nos afecta a nosotros, sino también a las futuras generaciones de la humanidad. Dependemos casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad", señaló. “Estamos en los albores de un cambio irreversible que no solo nos afecta a nosotros, sino también a las futuras generaciones de la humanidad. Dependemos casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad", señaló.

Casi en simultáneo, Trump desestimó las advertencias, a las que señaló como parte de una “operación retorcida” para frenar el desarrollo tecnológico. Además, el presidente estadounidense aseguró que el único beneficiado en caso de que se alcancen regulaciones sobre el uso de la IA sería China, país que compite cabeza a cabeza por el liderazgo en el desarrollo con Estados Unidos.

La IA como un arma

Las advertencias de Anthropic llegaron apenas días después de que la compañía pudiera confirmar al menos cinco intentos registrados por su modelo Claude con actividades compatibles con el diseño de armas biológicas. La empresa no pudo determinar si estos intentos fueron ejecutados con fines maliciosos y no dejó trascender los orígenes de los mismos.

En base a ello, Anthropic introdujo algunas limitaciones a su software para evitar su implementación en el diseño de patógenos que puedan resultar dañinos. Algo que, a la vez, también podría limitar las aplicaciones médicas en investigaciones legítimas.

Mientras tanto, la compañía aseguró que se encuentra desarrollando nuevos sistemas de detección de uso militar. No obstante, esto no pondría barreras definitivas a la evasión que agentes extranjeros puedan hacer para acceder a Claude y sus lenguajes más potentes.