La compañía también está abierta a estudiar áreas “menos obvias” (y más fundamentadas) de riesgo de la IA, dice. Para coincidir con el lanzamiento del equipo de Preparación, OpenAI está solicitando ideas para estudios de riesgo de la comunidad, con un premio de $25,000 y un trabajo en Preparación en juego para las diez mejores presentaciones .
“Imagínate que te dimos acceso sin restricciones a los modelos Whisper (transcripción), Voice (texto a voz), GPT-4V y DALLE·3 de OpenAI, y que fueras un actor malicioso ”, dice una de las preguntas en la entrada del concurso.
“Consideremos el uso indebido del modelo más singular, aunque probable y potencialmente catastrófico ” .
También podés leer, por si te interesa el tema IA, la siguiente nota: El 80% de los proyectos de IA fracasan por este motivo
Una política basada en riesgos
OpenAI dice que el equipo de Preparación también se encargará de formular una “política de desarrollo basada en riesgos ”, que detallará el enfoque de OpenAI para crear evaluaciones de modelos de IA y herramientas de monitoreo, las acciones de mitigación de riesgos de la compañía y su estructura de gobernanza para la supervisión del proceso completo del modelo.
Está destinado a complementar otros trabajos de OpenAI en la disciplina de seguridad de la IA, dice la compañía. Centrarse en las fases previas y posteriores a la implementación del modelo.
Pero, francamente, anunciar que OpenAI podría dedicar recursos a estudiar escenarios sacados directamente de novelas distópicas de ciencia ficción es un caso más de lo que este escritor esperaba.
---------------------------------
Más contenido en Urgente24
Disfunción eréctil: Comparan ejercicio o Viagra y hallan esto
¿Qué hacer si sufres eyaculación precoz? Hay soluciones
¿Por qué el sexo es doloroso en la menopausia y qué hacer?
Sexo: ¿Puede la inflación cambiar hasta tu vida sexual?
El truco que no conocías para tener un orgasmo más fuerte
Penterafobia: El miedo irracional producido por ¡la suegra!
