Dado que los grandes modelos de lenguaje rara vez se entrenan con fuentes militares autorizadas, a menudo generan contenido que desafía la física básica, los principios de diseño o las limitaciones operativas, apuntó. Dado que los grandes modelos de lenguaje rara vez se entrenan con fuentes militares autorizadas, a menudo generan contenido que desafía la física básica, los principios de diseño o las limitaciones operativas, apuntó.
Uno de los mayores riesgos derivados de las “alucinaciones” de la IA en aplicaciones militares es la toma de decisiones en base a simulaciones. En ese sentido, se destacó algunos episodios recientes en distintos campos de batalla, donde se cometieron errores severos que se cobraron vidas de civiles como ataques a escuelas u hospitales que fueron señalados como objetivos prioritarios por distintos modelos de inteligencia artificial.
“El daño más directo se produce en el análisis de inteligencia y la simulación, donde actuar basándose en tales alucinaciones puede llevar a evaluaciones erróneas de la capacidad de combate”, destacó Xianzhe.
Centro de Comando de Operaciones Especiales: Satélites, drones, misiles, aviones, artillería.... toda la IA.
¿Cómo evitar las alucinaciones?
El científico chino propuso varias medidas preventivas a la hora de entrenar los modelos IA y tomar decisiones basadas en sus simulaciones. En especial, hizo énfasis en el debate cruzado entre modelos y una actitud de cuestionamiento permanente ante los resultados arrojados.
Mientras tanto, China ha avanzado en la aplicación directa de la inteligencia artificial en su aparato militar. En ese sentido, uno de los avances más recientes fue la creación de un sistema de evación de estelas de bengalas de los aviones furtivos estadounidenses F-22 y F-35.
La tecnología sería incorporada en nuevos misiles aire-aire que serían utilizados por el Ejército Popular de Liberación. El reconocimiento de las estelas de calor específicas de los aviones de la USAF estaría mediado por modelos de inteligencia artificial, dando capacidad de distinguir entre el motor de las aeronaves y las bengalas disuasivas.
Más noticias en Urgente24
Monteoliva admitió los suicidios en las Fuerzas Armadas y salpicó a Milei: "Aumentaron en el país"
Aerolíneas Argentinas reduce lazos con el Tesoro: Recortan una garantía clave
Después de Venezuela y Colombia, la Argentina: Alertan por posible terremoto de 7,5
