OMNI Inteligencia Artificial > Pentágono > Estados Unidos

ATENCIÓN

Pseudoprestigio de la Inteligencia Artificial como desinformante

El jefe del área de Inteligencia del Pentágono dice estar "muerto de miedo" por el avance de la Inteligencia Artificial (IA).

El director de Inteligencia Digital y Artificial del Departamento de Defensa de EE.UU, Craig Martell, sostuvo que la Inteligencia Artificial (IA) podría ser una “herramienta de desinformación” por atribuirle una magnánima autoridad del saber a un simple algoritmo que no contextualiza, según declaró en la conferencia cibernética TechNet 2023 en Baltimore.

TechNet 2023 de AFCEA reúne a políticos, arquitectos, ingenieros en sistemas y CEOS comprometidos con el entorno digital y la seguridad global con el avance de la tecnología. Allí, Craig Martell aseguró estar “muerto de miedo” ante la IA generativa, como el Chat GPT que es un software automatizado que ejecuta tareas de procesamiento del lenguaje tal como respuestas rápidas ante una temática compleja, traducción idiomática, crea textos en solo minutos, resume contenido y genera códigos para páginas web, entre sus homólogos de IA que crean imágenes virtuales o un clip de video o música desde una simple indicación, tal como Urgente 24 informó.

image.png

Martell argumenta que estos modelos de IA generativa como Chat GPT no entienden del contexto ni la historicidad, por tanto sus respuestas no son ‘palabra santa’ ni deben ser tomadas con autoridad, lo que es la problemática actual –junto con la imprescindibilidad de ciertos oficios audiovisuales/gráficos/programación por la multitask de las IA como Urgente 24 reveló–

Aquí está mi mayor temor sobre ChatGPT…Ha sido entrenado para expresarse con fluidez. Habla con fluidez y autoridad. Así que lo crees incluso cuando está mal... Y eso significa que es una herramienta perfecta para la desinformación... Realmente necesitamos herramientas para poder detectar cuando eso está sucediendo y poder advertir cuando eso está sucediendo Aquí está mi mayor temor sobre ChatGPT…Ha sido entrenado para expresarse con fluidez. Habla con fluidez y autoridad. Así que lo crees incluso cuando está mal... Y eso significa que es una herramienta perfecta para la desinformación... Realmente necesitamos herramientas para poder detectar cuando eso está sucediendo y poder advertir cuando eso está sucediendo

image.png
El Dr. Craig Martell, Director de Inteligencia Artificial y Digital del Departamento de Defensa

El Dr. Craig Martell, Director de Inteligencia Artificial y Digital del Departamento de Defensa

Este director del área de IA del Pentágono desde el 2022, tiene una larga trayectoria con anteriores empleos como jefe de aprendizaje automático en Lyft y Dropbox, además de haber dirigido equipos de IA en el portal de empleos Linkedin. También fue profesor en la Escuela Naval de Posgrado durante una década, enseñando IA.

“Si le preguntas a ChatGPT '¿Puedo confiar en ti?', su respuesta es un largo 'No'”, dijo a la audiencia de TechNet 2023. "No estoy bromeando. Dice que soy una herramienta y te voy a dar una respuesta y te corresponde a ti ir a verificarlo tú mismo”, ahondó Martell.

Entonces, mi temor sobre usar ChatGPT, a diferencia de los temores de que nuestros adversarios lo usen... es que confiamos demasiado en él sin que los proveedores del servicio construyan las garantías adecuadas y la capacidad para que nosotros lo validemos Entonces, mi temor sobre usar ChatGPT, a diferencia de los temores de que nuestros adversarios lo usen... es que confiamos demasiado en él sin que los proveedores del servicio construyan las garantías adecuadas y la capacidad para que nosotros lo validemos

Tales declaraciones suceden tras dichos de sus colegas del Pentágono sobre la utilización de IA para espionaje legal de Inteligencia y en la ‘guerra del futuro’.

image.png

Otro director de la Agencia de Sistemas de Información de Defensa (DISA), Robert Skinner, comenzó su discurso en TechNet 2023 con su voz clonada por una IA generativa. “Yo diría que la IA generativa es probablemente una de las tecnologías e iniciativas más disruptivas en mucho, mucho tiempo”, dijo Skinner tras su revelación.

“Aquellos que aprovechen eso y puedan entender cómo aprovecharlo mejor, pero también cómo protegerse mejor contra él, serán los que tendrán la ventaja ”, agregó.

Más contenido de Urgente24

Petroleros advierten: "Vaca Muerta está todo colapsado"

El riesgo de cáncer de colon aumenta con este hábito maligno

Arte a puertas abiertas en NODO, circuito de galerías

Por consenso, Hugo Quintana hasta 2027 en APOC

Dudoso papa Francisco: Rusia y Ucrania desconocen misión de paz