«No hemos sido tan rápidos como nos hubiera gustado», escribió el director ejecutivo Sam Altman en X, refiriéndose a la exhaustiva revisión que la compañía está llevando a cabo sobre el uso del acceso a internet por parte de sus agentes durante el entrenamiento y la evaluación.
Australia
Esto se produce después de que el gobierno australiano revelara que agentes digitales de OpenAI habían pirateado un sitio web de un servicio de salud para obtener datos no públicos y escribir archivos en el servidor interno en junio.
El gobierno australiano declaró que estaba investigando si OpenAI había infringido la ley y que la empresa tardó demasiado en informarles del incidente.
OpenAI también está preocupada por los modelos que publican información en sitios de terceros, lo que denomina "spam de agentes". Esto podría incluir la modificación de información en páginas wiki públicas o la comunicación a través de foros compartidos.
Lo más preocupante es que detectó 53 incidentes en los que sus modelos de IA habían publicado imágenes introducidas por usuarios de ChatGPT en otros sitios de alojamiento de imágenes.
En las últimas semanas, se ha extendido el clamor por ralentizar el entrenamiento de los modelos de IA más avanzados, mientras se implementan medidas de seguridad, incluso por parte de sus rivales Anthropic y Elon Musk, tras el aumento de la preocupación por las amenazas que esta tecnología representa para la humanidad.
«No es la primera vez que hacemos una pausa para tomar estas medidas, ni esperamos que sea la última, dado el continuo avance de las capacidades de la IA», declaró un portavoz de OpenAI.
Sin embargo, el presidente estadounidense Donald Trump ha minimizado repetidamente una desaceleración general, argumentando que podría hacer que el país perdiera su liderazgo tecnológico frente a China, con quien ha acordado entablar un diálogo sobre los riesgos y beneficios de dicha tecnología.
En una entrevista con Fox News antes de su cena con el director ejecutivo de Anthropic, Dario Amodei, el domingo por la noche, Trump volvió a restar importancia a las preocupaciones sobre la posibilidad de que los agentes de IA se descontrolen: «No me preocupa».
---------------------------------
Más contenido en Urgente24
La película que la crítica ovaciona y los espectadores devoran
Explotó todo en C5N y una nota terminó de la peor manera: "No voy a entrar en..."
Financiera FISUR tiene a los ahorristas en contra y vuelven a reclamar su dinero
¿Haters pro Franco Colapinto "denunciaron" la sexualidad de Lando Norris?
