Cumbre Trump / Xi por la IA cuando 3 de 4 estadounidenses no confían

Según una nueva encuesta de Reuters/Ipsos, 73% de los estadounidenses temen que las empresas de IA (inteligencia artificial) no trabajan para evitar que la IA cause daños graves a la sociedad, preocupa la tecnología sin límites y, en ese contexto, Donald Trump recibe a Xi Jinping.

La encuesta, que duró 4 días y concluyó el domingo 20/09, reveló que el 39% de los encuestados cree que la IA tiene un impacto negativo en la sociedad, y esto es un aumento respecto del mes anterior cuando era 36%.

Es el porcentaje más alto desde que Reuters/Ipsos comenzó a formular esta pregunta, en marzo.

Apenas 11% afirmó que la nueva tecnología era algo positivo. El resto no estaba seguro o no respondió a la pregunta.

La encuesta reveló que muchos estadounidenses desconfían de la capacidad de las empresas de IA para autorregularse, y la mayoría de los encuestados afirmó que los funcionarios federales deberían desempeñar un papel importante en el establecimiento de normas de seguridad.

Ya son varios los casos documentados en que agentes IA quedan fuera de control y hasta sabotean a humanos.

Esto es muy interesante porque varias empresas de IA ya hicieron conocer su preocupación por el rumbo veloz sin destino. El científico de Anthropic, Evan Hubinger, afirmó que existía una probabilidad superior al 10% de que la IA pudiera aniquilar a la humanidad en la próxima década.

69% de los estadounidenses dijeron haber seguido la noticia de que las principales empresas de IA estaban pidiendo una ralentización en el desarrollo de la IA, así como una mayor supervisión y estándares de seguridad.

El 55% de las personas encuestadas afirmó que sería positivo ralentizar el desarrollo de la IA, frente al 13% que opinó que sería negativo.

El resto no estaba seguro o no respondió a la pregunta.

73% de los encuestados dijeron que era más importante para USA garantizar que la IA se desarrolle de forma segura y responsable, y 23% dijo que era más importante para USA mantenerse a la vanguardia del resto del mundo en el desarrollo de la IA.

La encuesta, realizada en línea, recabó respuestas de 1.277 adultos estadounidenses en todo el país. Sus resultados tuvieron un margen de error de +/- 3 puntos porcentuales.

Pero fue el presidente Donald Trump quien atacó a los ejecutivos que consideró timoratos.

Hay quienes sospechan que Trump es un vocero de los intereses de la seguridad nacional que temen que USA quede por detrás de China en esa carrera por el liderazgo IA.

La fragmentación de un rostro en infinitos píxeles grafica el paulatino desdibujamiento de la persona humana ante el avance avasallante de los entornos cibernéticos y la automatización. En un ecosistema donde la identidad individual se disuelve en métricas, datos y algoritmos, la subjetividad y la condición ética del individuo corren el riesgo de quedar reducidas a simples fragmentos reemplazables de un código. En ese contexto D. Trump expresó que " no se corre ningún riesgo".

"Superinteligencia"

Para reforzar su opinión, Trump incluyó el tema en su discurso ante la Asamblea General de las Naciones Unidas: la IA pasará a denominarse "superinteligencia" en todos los documentos gubernamentales.

"Estados Unidos rechaza categóricamente cualquier intento de construir un sistema global para controlar la IA de la que tanto se habla ahora, a la que de ahora en adelante llamaremos superinteligencia. Cambiando el nombre", declaró Trump ante el organismo internacional.
"El uso de la palabra 'inteligencia artificial' hace que parezca falsa. No lo es. De hecho, es asombrosa. Pero debemos tener cuidado. En realidad, es justo lo contrario de lo que aparenta".
“A partir de ahora, todos los documentos de Estados Unidos, y esperemos que también los del resto del mundo, se modificarán para utilizar el término mucho más preciso ‘súper’ en lugar de ‘artificial’. En otras palabras, bienvenidos al nuevo mundo de la superinteligencia —SI—. Veamos qué tal funciona. Suena mucho mejor. Y lo es, además de ser mucho más preciso”.

China

La SI (según Trump, Super Intelligence) será un tema principal cuando el presidente chino Xi Jinping llegue a Washington DC en una visita oficial a Trump.

Donald Trump ofrecerá al presidente chino Xi Jinping una cena de honor a la que se ha invitado a gente de la IA: Jeff Bezos (Amazon), Elon Musk (SpaceX), Sundar Pichai (Alphabet/Google), Michael Dell (Dell Tech.), Jensen Huang (Nvidia), Sam Altman y Greg Brockman (OpenAI), Jane Fraser (Citigroup), y Tim Cook (Apple).

El evento ocurre en un momento en que la Casa Blanca se enfrenta a preocupaciones de seguridad nacional relacionadas con la industria de la IA: China parece tener una energía arrolladora en la IA aplicada a robots (humanoides).

Sam Altman (OpenAI) pidió que USA lidere la creación de estándares técnicos internacionales para la seguridad de la IA, propuesta que presentará al Consejo de Seguridad de la ONU antes de la cena.

El secretario del Tesoro, Scott Bessent; el representante comercial Jamieson Greer, y funcionarios chinos ya estuvieron debatiendo un mecanismo para notificarse mutuamente sobre incidentes importantes relacionados con la IA.

Scott Bessent y Donald Trump.

Scott Bessent

El secretario del Tesoro propuso un nuevo "mecanismo de notificación" sobre la seguridad de la IA al viceprimer ministro chino, He Lifeng: una línea de comunicación abierta, según 4 personas familiarizadas con el acuerdo dijeron a Reuters:

"Este acuerdo subraya las ambiciones relativamente modestas que rodean la cooperación en materia de inteligencia artificial, de cara a la reunión que tendrá lugar esta semana en la Casa Blanca entre el presidente Donald Trump y el líder chino Xi Jinping.

A pesar de la creciente preocupación por los riesgos para la seguridad nacional que plantea la IA cada vez más potente, Washington y Beijing siguen inmersos en una carrera armamentística tecnológica más amplia y están profundamente divididos en cuestiones como los controles avanzados de los chips.

El canal propuesto, al que las autoridades chinas no han dado su visto bueno públicamente, permitiría a Bessent y a He ponerse en contacto entre sí en caso de un incidente relacionado con la inteligencia artificial que tenga implicaciones para la seguridad nacional, según declararon las cuatro personas, a quienes se les concedió el anonimato para compartir detalles privados del acuerdo.

“El mecanismo de diálogo se reduce básicamente a Bessent y He Lifeng; no es un organismo formal de expertos”, dijo una persona informada por un funcionario de la administración.

“El término científico y técnico es tontería”, dijo una segunda persona familiarizada con el mecanismo."

---------------