Une étude montre que les outils d'IA ont un effet limité sur les biais d'embauche

Des chercheurs de l'Université de Cambridge ont déclaré dans la revue "Philosophy & Technology": "Il existe un intérêt croissant pour les nouvelles méthodes capables de résoudre des problèmes tels que les biais d'entretien. Les applications pratiques de l'IA sont de plus en plus courantes. Mais la sélection des candidats via des vidéos ou des vidéos." les métriques d’application sont encore à un niveau « pseudo-scientifique ».

Certaines organisations professionnelles des ressources humaines ont déclaré un jour aux médias que la technologie de l'IA avait le potentiel de lutter contre les préjugés.

Une enquête transnationale menée en 2020 auprès de 500 professionnels des ressources humaines a révélé que près d'un quart des praticiens utilisent l'IA pour « automatiser la sélection des talents ». Mais cette quête visant à réduire les préjugés ne semble pas avoir fonctionné. Kerry Mackereth, postdoctorante. chercheur au Centre d'études sur le genre de l'Université de Cambridge, a déclaré dans une interview que cette affaire était une "connerie" totale.

Elle a expliqué : « Ces outils ne peuvent pas être formés pour simplement identifier les caractéristiques liées à l'emploi, ni supprimer les facteurs de genre et de race du processus de recrutement. En effet, les humains croient toujours que le fait qu'un employé soit bon sera inévitablement lié à cela. .Le genre, l’identité et la race sont intrinsèquement liés.

Des études soulignent également que certaines entreprises rencontrent également des problèmes avec les outils eux-mêmes. En 2018, Amazon a annoncé qu'elle abandonnerait le développement d'un moteur de recrutement basé sur l'IA, car il s'est avéré qu'il détecterait le sexe dans les CV et discriminerait les candidates.

"Phrénologie moderne"

Les chercheurs accordent également une attention particulière aux outils capables "d'analyser les détails de la parole et des mouvements corporels des candidats". On dit que ces éléments subtils peuvent également refléter si le sujet répond aux exigences d'un poste spécifique. .

La co-auteure de la recherche, le Dr Eleanor Drage, a admis que ce type de technologie d'analyse de vidéos et d'images n'a « aucune base scientifique » et l'a qualifié de « phrénologie moderne » – une fausse théorie qui s'appuie sur la forme du crâne pour déduire la personnalité et l'intelligence.

Elle a souligné : "Ils pensent qu'ils peuvent comprendre la personnalité de chacun grâce à l'observation du visage. Cette idée est aussi peu fiable qu'un outil de test. L'IA ne peut pas "voir" le visage pour voir le véritable moi intérieur.

Capture d'écran de l'outil de Cambridge

Les chercheurs ont également travaillé avec six étudiants en informatique pour créer leur propre version simplifiée de l'outil de recrutement de l'IA, qui évalue les photos des candidats en fonction des soi-disant « cinq grands » traits de personnalité :

• Approachable
• Extraversion
• Ouverture
• Responsable
• Névrosisme

Mais la note finale sera quand même affectée par diverses variables non liées.

Le Dr Drage a écrit : "Lors de l'utilisation de ces outils, on peut constater que les conclusions sur les personnages tirées par l'IA changent simplement en ajustant le contraste/la luminosité/la saturation de l'image."

Le Registre a noté que d'autres enquêtes. également obtenus sont parvenus à des conclusions similaires.

Une chaîne publique allemande a même découvert que le port de lunettes ou d'un foulard dans les vidéos affecterait également le score final d'un candidat.

Hayfa Mohdzaini du Chartered Institute of Personnel and Development a souligné que leurs recherches montrent que seulement 8 % des employeurs en entreprise utilisent la technologie de l'IA pour sélectionner les candidats.

« L'IA peut en effet augmenter la taille globale du vivier de candidats talentueux, aidant ainsi les organisations à améliorer les niveaux de diversité – mais si les règles et les données de formation sont incomplètes ou inexactes, elle peut également passer à côté de nombreux excellents candidats. » Le résumé indique : « Actuellement, les logiciels d'IA utilisés pour analyser la parole et le langage corporel des candidats en sont encore à leurs balbutiements, ce qui comporte bien sûr d'énormes opportunités, mais s'accompagne également de risques

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!