Papelón en Google: salteaban su propia IA de selección por miedo a errores

Google vende a sus clientes corporativos herramientas de inteligencia artificial para procesar solicitudes de empleo más rápido, evaluar CVs y encontrar candidatos prometedores. Su equipo de Workspace lo promociona como una forma de "ahorrar tiempo al departamento de Recursos Humanos mediante la evaluación de currículos y la previsión de necesidades de contratación."

Al mismo tiempo, el equipo interno de Google DeepMind encargado de mitigar los riesgos de la IA avanzada creó un formulario especial para que los candidatos a sus posiciones puedan enviar sus currículos directamente a personas del equipo, saltando el sistema automatizado de la empresa.

La razón está escrita en el documento interno al que accedió Bloomberg, que incluía la advertencia "Por favor, no difunda este documento": "Contamos con un sistema de solicitudes en el que existe una probabilidad considerable de que su currículum sea descartado por error o de que tarde demasiado en llegar hasta nosotros. Rellenar este formulario garantiza que una persona real del equipo pueda ver su solicitud."

El equipo de Google DeepMind que estudia los riesgos de la inteligencia artificial creó un mecanismo para que los candidatos pudieran evitar el filtro automatizado de sus postulaciones.

La respuesta oficial que no niega lo importante

Un portavoz de Google DeepMind dijo a Bloomberg que la empresa quiere "captar y contratar al talento más cualificado" y negó que sus sistemas descarten candidatos de manera errónea.

Luego confirmó que el equipo creó el formulario para "hacer llegar los currículos directamente a los miembros del equipo" y aclaró que "no hay atajos para conseguir el puesto."

Es una respuesta que desmiente la acusación de errores mientras confirma la existencia del mecanismo para evitarlos. La distinción es sutil, Google no dice que sus filtros funcionan bien, dice que el formulario no garantiza el empleo. Son cosas distintas.

La contratación automatizada puede filtrar candidatos antes de que una persona llegue a revisar su perfil.

Las advertencias del documento filtrado

La IA en los procesos de selección de personal es un fenómeno que avanza más rápido que su regulación y su comprensión.

Algunas empresas usan modelos para clasificar candidatos, otras filtran currículos por palabras clave, otras combinan ambas cosas.

El resultado para quienes buscan empleo es un sistema opaco donde no saben qué criterio los elimina ni cómo corregirlo.

Los problemas documentados son concretos. Una investigación de Bloomberg encontró que ChatGPT mostraba indicios de sesgo basado en los nombres de los candidatos.

Workday, empresa que vende software de gestión laboral usado por miles de compañías, enfrenta una demanda que alega que sus sistemas de contratación con IA discriminan por raza, edad y discapacidad. La empresa niega las acusaciones.

El caso de Google DeepMind agrega una dimensión y es que no es una empresa externa la que denuncia el problema, sino el propio equipo interno de la empresa que más sabe sobre los riesgos de estos sistemas.

Son los investigadores que pasan sus días pensando en cómo la IA puede fallar los que decidieron no confiarle la selección de sus propios colegas.

Las empresas utilizan cada vez más inteligencia artificial para procesar currículos y clasificar candidatos, aunque los criterios utilizados por los sistemas no siempre son transparentes.

La guerra de los bots: postulantes que usan IA contra empresas que filtran con algoritmos

La situación se complica porque no es solo las empresas las que usan IA en la contratación. Los candidatos también.

Algunos generan cartas de presentación y respuestas con modelos de lenguaje para postularse a cientos de posiciones en tiempo récord o para optimizar sus currículos con las palabras clave que los filtros buscan.

El equipo de Google DeepMind anticipó eso también. El formulario que crearon incluye una advertencia adicional: "Un ser humano de verdad leerá estas solicitudes. A estas personas les cansa mucho leer respuestas generadas por modelos de lenguaje grande, ya que todas suenan muy parecidas."

Es la descripción perfecta del loop absurdo en que está atrapado el mercado laboral en este momento. Las empresas usan IA para filtrar candidatos, los candidatos usan IA para pasar los filtros, y el resultado es un sistema donde nadie puede distinguir señal de ruido.

El equipo de Google que estudia los riesgos de la IA lo resolvió de la única manera que funciona, saltando el sistema por completo y poniendo un humano en el medio.

La pregunta que queda sin responder es cuántas posiciones en cuántas empresas están siendo cubiertas, o no cubiertas, por sistemas que sus propios creadores no confiarían para encontrar a sus propios colegas.

---------------