Es una respuesta que desmiente la acusación de errores mientras confirma la existencia del mecanismo para evitarlos. La distinción es sutil, Google no dice que sus filtros funcionan bien, dice que el formulario no garantiza el empleo. Son cosas distintas.
La contratación automatizada puede filtrar candidatos antes de que una persona llegue a revisar su perfil.
Las advertencias del documento filtrado
La IA en los procesos de selección de personal es un fenómeno que avanza más rápido que su regulación y su comprensión.
Algunas empresas usan modelos para clasificar candidatos, otras filtran currículos por palabras clave, otras combinan ambas cosas.
El resultado para quienes buscan empleo es un sistema opaco donde no saben qué criterio los elimina ni cómo corregirlo.
Los problemas documentados son concretos. Una investigación de Bloomberg encontró que ChatGPT mostraba indicios de sesgo basado en los nombres de los candidatos.
Workday, empresa que vende software de gestión laboral usado por miles de compañías, enfrenta una demanda que alega que sus sistemas de contratación con IA discriminan por raza, edad y discapacidad. La empresa niega las acusaciones.
El caso de Google DeepMind agrega una dimensión y es que no es una empresa externa la que denuncia el problema, sino el propio equipo interno de la empresa que más sabe sobre los riesgos de estos sistemas.
Son los investigadores que pasan sus días pensando en cómo la IA puede fallar los que decidieron no confiarle la selección de sus propios colegas.
Las empresas utilizan cada vez más inteligencia artificial para procesar currículos y clasificar candidatos, aunque los criterios utilizados por los sistemas no siempre son transparentes.
La guerra de los bots: postulantes que usan IA contra empresas que filtran con algoritmos
La situación se complica porque no es solo las empresas las que usan IA en la contratación. Los candidatos también.
Algunos generan cartas de presentación y respuestas con modelos de lenguaje para postularse a cientos de posiciones en tiempo récord o para optimizar sus currículos con las palabras clave que los filtros buscan.
El equipo de Google DeepMind anticipó eso también. El formulario que crearon incluye una advertencia adicional: "Un ser humano de verdad leerá estas solicitudes. A estas personas les cansa mucho leer respuestas generadas por modelos de lenguaje grande, ya que todas suenan muy parecidas."
Es la descripción perfecta del loop absurdo en que está atrapado el mercado laboral en este momento. Las empresas usan IA para filtrar candidatos, los candidatos usan IA para pasar los filtros, y el resultado es un sistema donde nadie puede distinguir señal de ruido.
El equipo de Google que estudia los riesgos de la IA lo resolvió de la única manera que funciona, saltando el sistema por completo y poniendo un humano en el medio.
La pregunta que queda sin responder es cuántas posiciones en cuántas empresas están siendo cubiertas, o no cubiertas, por sistemas que sus propios creadores no confiarían para encontrar a sus propios colegas.
---------------
Más contenido en Urgente24
Rivales de Javier Milei: Juan Grabois, un núcleo pequeño pero concentrado
Messi destapó qué pasó en la final entre Argentina y España: "Situación fea"
El sentido mensaje de Cristiano Ronaldo a Lionel Messi por la muerte de su papá : "Un abrazo"
El flujo comercial y el petróleo, en problemas: guerra en Oriente y la amenaza de Putin de confiscar barcos
El odio expulsa talentos: Una figura de OLGA renunció por los ataques reiterados
