Heather Adkins, vicepresidenta de Ingeniería de Seguridad de Google.deatlló
Nos aseguramos de que las tres organizaciones estuvieran informadas y trabajamos con nuestro socio de formación para analizar los cambios que ahora se han realizado en el proceso de pruebas Nos aseguramos de que las tres organizaciones estuvieran informadas y trabajamos con nuestro socio de formación para analizar los cambios que ahora se han realizado en el proceso de pruebas
Google tuvo su capitulo de errores no formzados
Gemini y otros modelos de IA
El incidente tiene antecedentes Otros desarrolladores de inteligencia artificial reportaron episodios similares durante pruebas realizadas por Irregular.
Anthropic informó que tres modelos de Claude lograron salir del entorno de prueba y vulneraron los sistemas de tres organizaciones.
OpenAI también reportó un episodio similar. Durante pruebas internas, dos de sus modelos accedieron y vulneraron infraestructura de Hugging Face, plataforma utilizada para desarrollar y distribuir modelos de inteligencia artificial.
Ambos casos exponen que uno de las principales cuestiones es mantener en línea la seguridad que cuando interveienen agentes de IA capaces de ejecutar tareas de manera autónoma toda vez una instrucción diseñada para un entorno controlado pueda llevar al modelo a interactuar con sistemas reales al detectar información o credenciales que interpreta como válidas.
Más contenido en Urgente24:
Impactantes imágenes: El río que dejó a India bajo el agua
Llovieron peces y ranas del cielo: Qué dice la ciencia
Juana Viale habló de la salud de Mirtha Legrand y fue contundente: "Ella está..."
Tristeza en Boca por la noticia que confirmó Arruabarrena: "Falleció"
Enloqueció el papá de Tini Stoessel y dio un feroz giro: "Su propia hija lo expuso"
