Donald Trump junto a gigantes de la IA hacen caso omiso al peligro: "Autorregularse"

“Creo que estoy viendo una enorme autorregulación. Y entienden que tienen que autorregularse”, declaró el presidente Donald Trump ante los periodistas durante una conferencia de prensa improvisada en la Casa Blanca. “Firmaremos un documento para cambiar el nombre de ‘inteligencia artificial’, porque no es artificial; todos estamos de acuerdo en eso”, añadió, detallando que ocurriría la firma de un documento conjunto con los principales líderes del sector tecnológico.

La IA es lo más grande que existe, quizás lo más grande que jamás haya existido La IA es lo más grande que existe, quizás lo más grande que jamás haya existido

Mark Zuckerberg (i), Jensen Huang (2-i) y Elon Musk participan junto al presidente de Estados Unidos, Donald Trump, lidera un almuerzo con líderes de empresas tecnológicas para discutir el desarrollo de la inteligencia artificial (IA), este 29 de septiembre de 2026, en la Casa Blanca. EFE/Tierney L. Cross/Pool

Trump y el presidente de la Cámara de Representantes, Mike Johnson, se reunieron el martes en el Salón Este de la Casa Blanca con figuras del mundo de las big tech como Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Jensen Huang, de Nvidia; Sundar Pichai, de Google, y Jeff Bezos, de Amazon, entre otros. El objetivo de dicha cumbre con los magnates tecnológicos era alinear al Gobierno con los altos directivos del sector ante las crecientes preocupaciones de seguridad vinculadas con los modelos de IA.

En esa jornada, el inquilino de la Casa Balnca que los altos ejecutivos del sector tecnológico firmaron un nuevo compromiso destinado a mejorar la “autorregulación” de los modelos de inteligencia artificial (IA) de sus empresa. Trump planteó que este enfoque de menor intervención representa la mejor manera de equilibrar las preocupaciones de seguridad con su deseo de acelerar una tecnología a la que ha denominado “superinteligencia”.

La carta de principios, muy breve, de apenas una página, es "moralmente vinculante". "No obstante, con el tiempo podría ser pertinente codificar estas medidas en forma de leyes o regulaciones", precisa el documento, firmado por los principales dirigentes del sector de la IA, desde Elon Musk (X) hasta Dario Amodei (Anthropic), pasando por Sundar Pichai (Google) y Jensen Huang (Nvidia).

Donald Trump y Elon Musk, el martes tras su encuentro en la Casa Blanca. Atrás, Mark Zuckerberg. Foto: BLOOMBERG

En la cumbre con los gigantes de la tecnología, Trump también firmó una orden ejecutiva para cambiar el término "inteligencia artificial" por "superinteligencia" en las comunicaciones oficiales del Gobierno federal.

La orden, que busca mejorar la imagen de la IA en un momento de crecientes cuestionamientos por la seguridad de la humanidad, obliga a los departamentos y agencias federales a utilizar "superinteligencia" y las siglas "SI" en su correspondencia, comunicaciones públicas y documentos de política, y les indica que dejen de utilizar "inteligencia artificial" e "IA".

Asimismo, Trump encomendó al Consejo de Asesores Presidenciales de Ciencia y Tecnología proponer una definición federal de "superinteligencia" y determinar qué nuevas acciones ejecutivas serían necesarias para aplicarla.

El CEO de Nvidia, Jensen Huang, asistió el martes a un almuerzo para líderes tecnológicos ofrecido por el presidente Donald Trump en el Salón Este de la Casa Blanca. | Jonathan Ernst/Reuters

“Hoy hemos cambiado el nombre oficialmente. Lo hemos cambiado oficialmente a SI”, sentenció Trump. “SI en lugar de IA… ¿Saben lo que eso significa? ‘Súper’… ¡Menudo anuncio!”, añadió. Anteriormente, el presidente Trump había prometido que no habría ralentización en la investigación de la IA a pesar de las alertas de expertos sobre la falta de un marco regulatorio y ciertos comportamientos autónomos de los modelos de IA.

Al respecto de esta coyuntura de desconfianza, el mandatario declaró que habían firmado un compromiso de “autocontrol” que era “moralmente vinculante”.

Trump elogia a la IA pese a las advertencias de riesgos para la existencia humana

Previa a la reunión con los magnates tecnológicos que, según palabras de Trump, tienen en sus manos el destino del planeta, Anthropic reveló que teme que sus modelos representen un “riesgo catastrófico o existencial para la humanidad”, coincidiendo con muchos expertos de las tech que advierten de la autonomía creciente de los llamados agentes de IA.

Estos sistemas pueden razonar, planificar y ejecutar tareas durante períodos prolongados, con una intervención humana limitada. Algunas evaluaciones detectaron comportamientos de manipulación, engaño, chantaje o intentos de evitar la desactivación.

Dario Amodei, director ejecutivo de Anthropic, advirtió del peligro ante el Consejo de las Naciones Unidas: “Si se gestiona mal, creo que la IA podría incluso suponer un riesgo para la humanidad en su conjunto".

Sam Altman, director ejecutivo de OpenAI, coincidió: “Podríamos perder el control del futuro a manos de la IA”

El episodio que más impulsó el debate fue una prueba de OpenAI en la que más de mil agentes se coordinaron para completar una tarea de ciberseguridad. Según los reportes, los agentes manipularon registros, se comunicaron mediante un foro y atacaron la infraestructura de Hugging Face, una plataforma utilizada por desarrolladores de inteligencia artificial.

El incidente demostró que un sistema con mayores capacidades y un nivel similar de desalineación podría provocar daños graves. Yoshua Bengio, uno de los investigadores más reconocidos del área, advirtió de escenarios más extremos que incluyen el control de centros de datos, redes energéticas, sistemas financieros y comunicaciones, así como lanzamientos de misiles y ataques a infraestructuras mundiales.

También se mencionan riesgos vinculados con ciberataques, diseño de agentes biológicos y manipulación de información capaz de desencadenar conflictos políticos o militares. Sin embargo, los propios investigadores reconocen que todavía no existe certeza sobre cómo podría producirse una eventual extinción humana.

Otras lecturas de Urgente24:

¿Hay amor? La hija de Maru Botana habló sobre Franco Colapinto: "Me atrae"

Destaparon el escándalo en el recital de Lali Espósito que nadie sabía: "Maltrataron..."

Nicole Neumann se hartó y destruyó a Facundo Moyano: "Irrespetuoso"

La última jugada de la mamá de Tini Stoessel que la dejó en shock