Problema

Los LLMs tienen sesgos inherentes en su entrenamiento, debido al sesgo de la muestra de datos con la que se entrenan. Aún así, existen ‘guardrails’ y otras técnicas para poder desplegarlos de forma segura en un entorno de producción, que evitan dichos sesgos.

En la industria de selección de talento, no se está aplicando. Son modelos de IA que cualifican a candidatos para las entrevistas de puestos de trabajo.

Estos modelos están, esencialmente, proveyendo o privando de oportunidades laborales a las personas. Ahorrando un 60% en los costes de contratación, se va a convertir en una norma. Por eso, tenemos que asegurarnos que sean seguros y no priven a nadie de dichas oportunidades.

Investigación propuesta

  1. Bias Score — elaborar un estándar (benchmark) para evaluar el sesgo de los modelos que cualifican personas.

  2. 2 técnicas de minimización de sesgos — utilizando un modelo previo que extraiga la información de forma anónima y objetiva, en base a datos elaborados por las oficinas de empleo internacionales.