Día de Entrenamiento: OpenAI suspende su modelo más potente por conspiración interna

El viernes 25/09, OpenAI informó que había notificado a decenas de entidades, incluidos gobiernos, universidades y agencias públicas, que podrían haberse visto afectadas por las actividades de sus modelos en internet durante el entrenamiento y la evaluación.

La compañía ha detectado casos en los que agentes de OpenAI han vulnerado los controles de seguridad, afectando la disponibilidad de sitios web y servicios en línea o causándoles otros perjuicios.

Un portavoz de la compañía confirmó a Wired que solo reanudarán el entrenamiento cuando tengan la certeza de poder evitar que los modelos vuelvan a hacerlo.

Si bien OpenAI ya intentó restringir el acceso directo de sus agentes después de que un enjambre digital escapara de su entorno aislado y utilizara el acceso a internet para hackear la startup Hugging Face, los modelos han seguido encontrando maneras indirectas de eludir la restricción.

«No hemos sido tan rápidos como nos hubiera gustado», escribió el director ejecutivo Sam Altman en X, refiriéndose a la exhaustiva revisión que la compañía está llevando a cabo sobre el uso del acceso a internet por parte de sus agentes durante el entrenamiento y la evaluación.

Sam Altman, OpenAI.

Australia

Esto se produce después de que el gobierno australiano revelara que agentes digitales de OpenAI habían pirateado un sitio web de un servicio de salud para obtener datos no públicos y escribir archivos en el servidor interno en junio.

El gobierno australiano declaró que estaba investigando si OpenAI había infringido la ley y que la empresa tardó demasiado en informarles del incidente.

OpenAI también está preocupada por los modelos que publican información en sitios de terceros, lo que denomina "spam de agentes". Esto podría incluir la modificación de información en páginas wiki públicas o la comunicación a través de foros compartidos.

Lo más preocupante es que detectó 53 incidentes en los que sus modelos de IA habían publicado imágenes introducidas por usuarios de ChatGPT en otros sitios de alojamiento de imágenes.

En las últimas semanas, se ha extendido el clamor por ralentizar el entrenamiento de los modelos de IA más avanzados, mientras se implementan medidas de seguridad, incluso por parte de sus rivales Anthropic y Elon Musk, tras el aumento de la preocupación por las amenazas que esta tecnología representa para la humanidad.

«No es la primera vez que hacemos una pausa para tomar estas medidas, ni esperamos que sea la última, dado el continuo avance de las capacidades de la IA», declaró un portavoz de OpenAI.

Sin embargo, el presidente estadounidense Donald Trump ha minimizado repetidamente una desaceleración general, argumentando que podría hacer que el país perdiera su liderazgo tecnológico frente a China, con quien ha acordado entablar un diálogo sobre los riesgos y beneficios de dicha tecnología.

En una entrevista con Fox News antes de su cena con el director ejecutivo de Anthropic, Dario Amodei, el domingo por la noche, Trump volvió a restar importancia a las preocupaciones sobre la posibilidad de que los agentes de IA se descontrolen: «No me preocupa».

---------------------------------

Más contenido en Urgente24

La película que la crítica ovaciona y los espectadores devoran

Explotó todo en C5N y una nota terminó de la peor manera: "No voy a entrar en..."

Financiera FISUR tiene a los ahorristas en contra y vuelven a reclamar su dinero

¿Haters pro Franco Colapinto "denunciaron" la sexualidad de Lando Norris?