OMNI Inteligencia Artificial > ChatGPT > inserción laboral

¿HOMBRE O MUJER?

La inteligencia artificial discrimina para seleccionar talento laboral

La inteligencia artificial tiene sesgos a la hora de clasificar currículums y tildan más a algunos grupos por etnia o género. ¿Qué le pasa a ChatGPT?

Muchas empresas apuestan a implementar herramientas de IA generativa como ChatGPT para la inserción laboral. Sin embargo, un estudio realizado por la prestigiosa agencia Bloomberg News puso al descubierto una incómoda verdad: estos sofisticados sistemas de inteligencia artificial discriminan. ¿Por qué se da esto? ¿No debería ser al revés? Lee y entérate.

La inteligencia artificial empieza a armar estragos en la selección laboral

¿En qué consistió la prueba? Los periodistas le pidieron al modelo de lenguaje GPT-3.5 de OpenAI (la misma IA que alimenta a ChatGPT) que clasifique 1.000 veces distintos currículums igualmente calificados para un puesto laboral. La única variable era el nombre del candidato, asociado estadísticamente con un grupo étnico o de género particular.

Luego de los miles de iteraciones, saltaron a la vista claras disparidades étnicas y de género: los currículums con nombres afroamericanos tenían muchísimas menos chances de ser elegidos como "principales candidatos" en comparación con los de otras etnias como asiáticos o hispanos.

¿Por qué ocurre esto con la inteligencia artificial? ¿No debería ser al revés?

Aunque los modelos de IA generativa fueron alimentados con incontables textos de internet, libros, redes sociales y hasta publicaciones históricas, es posible que hayan terminado incorporando los sesgos y estereotipos presentes en esas fuentes de datos.

image.png

La creadora de GPT-3.5, OpenAI, prohíbe el uso de sus sistemas de IA para tomar decisiones automatizadas de contratación. Pero este experimento demuestra que, si bien estas herramientas facilitan ciertos procesos de selección de personal, aún queda un arduo camino para evitar la discriminación a gran escala.

La inteligencia artificial aplicada al reclutamiento laboral puede ser de gran utilidad, pero también plantea nuevos desafíos éticos. Las empresas deberán estar alertas para que los sesgos del pasado no terminen replicándose en el futuro.

-------------------------------------------------------------

Más contenido en Urgente24

Marcela Pagano contra Viviana Canosa

Banco Nación sorprende con 24 cuotas sin interés en productos seleccionados

Mastercard dejará de emitir tarjetas de crédito y débito: Cómo se pagará de ahora en adelante

Diana Mondino, Lionel Messi y Dibu Martínez: el llamativo saludo de la cancillería