in

Cette IA pourrait éviter les biais dans l’embauche au lieu de les perpétuer

On craint de plus en plus et légitimement que les algorithmes ne conviennent pas à la sélection des candidatures humaines. Du moins, pas correctement ni même avec précision. Mais que se passerait-il si cela était inversé et qu’un robot pouvait, grâce à de nombreuses quantités d’apprentissage automatique, prouver que les recruteurs humains sont tout aussi biaisés? Si ce n’est pas pire, c’est ce que des chercheurs de la London School of Economics ont tenté de trouver dans une étude récente. En utilisant l’intelligence artificielle pour évaluer le programme public d’emploi suisse, leur outil a révélé que certains groupes minoritaires et certaines femmes étaient en retard par rapport à leurs pairs. Leurs noms, informations de base et autres détails ont été accueillis avec un parti pris inconscient de la part des recruteurs. Mais il y a de bonnes nouvelles. Les chercheurs estiment qu’un système comme celui-ci – qui est «largement applicable, non intrusif et rentable» – pourrait nous aider à résoudre le problème en nous alertant de l’endroit où nous glissons. Contexte – Selon le rapport, les chercheurs se sont appuyés sur le système pour passer au crible une énorme pile de données. Plus précisément, le système a analysé 452 729 entrées de recherche provenant de 43 352 recruteurs. En outre, le système a examiné les 17,4 millions de profils d’emploi qui ont émergé comme résultats de recherche. Il a même regardé 3,4 millions de vues de profil. Tout cela a donné à la machine l’opportunité de créer des leçons distinctes et significatives de la façon dont les recruteurs humains sélectionnent ou abandonnent des candidats potentiels. Plus important encore, la machine a étudié si un recruteur faisait un suivi après avoir vu la présentation d’un candidat. Résultats – Les résultats confirment la préoccupation commune selon laquelle les minorités ethniques et les femmes doivent travailler beaucoup plus dur que les autres pairs pour trouver un emploi. Le système a indiqué que les recruteurs humains étaient 19 fois moins susceptibles de contacter un candidat issu d’une minorité ethnique, même si le candidat avait le bon type de qualification. De plus, le système a révélé que les femmes, par rapport aux hommes, étaient plus susceptibles d’être snobées même lorsqu’elles avaient les compétences requises pour un emploi. Où allons-nous à partir d’ici – Les chercheurs y croient est une façon de naviguer et de réduire ces préjugés. L’un de leurs conseils est d’amener les candidats à mentionner des détails de base tels que les noms dans le bas de leur CV et de conserver leurs compétences et leurs réalisations dans la moitié supérieure. Mais ils pensent également que des machines comme celle-ci pourraient s’avérer utiles si les recruteurs les introduisaient dans leur processus de recrutement. Ce qui manque à l’œil humain, le bot peut le capter et le pointer.