Utiliser l’IA pour le recrutement semble être un plan infaillible. Après tout, les humains sont imparfaits et partiaux. Cependant, l’IA comporte également ses propres préjugés. Les critiques de l’intelligence artificielle, qui parlent souvent de suppressions d’emplois potentielles, craignent depuis longtemps que cette technologie ne supprime des emplois sur le marché du travail. Étonnamment, de nouvelles recherches suggèrent que l’IA discrimine les candidats qualifiés en fonction de leur sexe, de leur race et de leur âge.
L’IA a le potentiel d’égaliser les règles du jeu en matière de recrutement, mais elle est formée par des humains et hérite donc des préjugés humains. Décomposons-le :
Sources de biais dans l’IA
En théorie, un outil de dépistage basé sur l’IA est parfait car il ne peut ni réfléchir ni porter de jugement, ce qui lui permet de prendre des décisions objectives. Cependant, à mesure que l’adoption de l’IA s’est accrue, des incidents de partialité ont également été signalés. Voici quelques exemples de 2023 :
- En juin, Bloomberg a rapporté qu'une analyse de 5,000 XNUMX images générées par Diffusion stable des stéréotypes de genre et raciaux renforcés, pires que ceux que l’on retrouve dans le monde réel. Les emplois bien rémunérés étaient systématiquement représentés par des sujets à la peau plus claire, tandis que les emplois moins bien rémunérés étaient associés à des peaux plus foncées. Des stéréotypes de genre ont également été observés, les caissiers et les travailleurs sociaux étant largement représentés par des femmes, tandis que les hommes politiques et les ingénieurs étaient majoritairement des hommes.
- Un porte-parole de StabilityAI, qui gère Stable Diffusion, a reconnu que tous les modèles d'IA présentent des biais basés sur les ensembles de données sur lesquels ils sont formés. Cela met en évidence le problème central : des ensembles de données défectueux conduisent à des modèles défectueux.
- Journée de travail, une société de logiciels systèmes proposant des solutions RH et financières, fait face à un recours collectif mené par Derek Mobley. Il allègue que leur outil de sélection par IA est discriminatoire à l'égard des candidats plus âgés, noirs et handicapés. Bien qu'il possède les qualifications requises pour l'emploi, Mobley, un homme noir de 40 ans souffrant d'anxiété et de dépression, a été licencié d'environ 100 postes depuis 2018. Il représente un nombre non divulgué de personnes signalant une discrimination similaire.
Ces exemples illustrent que les outils d’IA formés sur des données présentant des disparités culturelles, raciales et de genre refléteront ces préjugés, perpétuant les problèmes mêmes que les entreprises visent à éliminer.
Réponse du gouvernement aux biais de recrutement de l’IA
Au départ, la réponse du gouvernement aux biais de recrutement de l’IA était limitée. Cependant, plusieurs mesures législatives ont été prises depuis :
- En 2019, l’Illinois a adopté un projet de loi obligeant les employeurs à informer les candidats de l’analyse de l’IA lors des entretiens vidéo.
- Le Maryland a ensuite interdit l'utilisation de la reconnaissance faciale lors des entretiens préalables à l'emploi sans le consentement du candidat.
- En 2021, la Commission pour l’égalité des chances en matière d’emploi (EEOC) a lancé le « Initiative sur l’intelligence artificielle et l’équité algorithmique » pour surveiller et évaluer la technologie de l’IA dans les pratiques d’embauche.
- La même année, le conseil municipal de New York a adopté une loi obligeant les employeurs utilisant la technologie de l'IA à la divulguer aux candidats et à se soumettre à des contrôles annuels de partialité, dont l'application débutera en juillet 2023. Cependant, les critiques soutiennent que la loi n'est pas assez spécifique et manque de dispositions pour discrimination fondée sur l’âge et le handicap.
Le ministère américain de la Justice et l’EEOC ont également publié un guide commun déconseillant aux employeurs de « se fier aveuglément à l’IA » pour éviter les violations des droits civiques. Récemment, l’EEOC a mené des auditions avec des experts pour discuter des avantages et des inconvénients potentiels de l’IA sur le lieu de travail.
L'avenir de l'IA dans le recrutement
De nombreuses entreprises américaines ont intégré l’IA dans leurs processus de recrutement. Une étude réalisée en 2022 par SHRM a constaté que 79 % des entreprises utilisaient l'automatisation et/ou l'IA pour le recrutement et l'embauche. Les organisations devraient s’attendre à une surveillance accrue de leurs pratiques d’embauche. La loi de New York devrait influencer d’autres États, la Californie, le New Jersey, le Vermont et New York travaillant apparemment sur leurs propres réglementations en matière d’IA.
Les entreprises gourmandes en ressources comme Amazon peuvent développer, former et tester leurs outils pour de meilleurs résultats. Cependant, les entreprises qui achètent des outils auprès de fournisseurs tiers sont confrontées à des risques plus élevés de partialité et de violations des droits civiques. Des processus de contrôle et d’audit approfondis sont cruciaux pour les entreprises qui utilisent la technologie de l’IA à des fins d’emploi.
Le plat à retenir pour les entreprises ? Bientôt, il ne suffira plus de dire : « Ce n’est pas nous, c’est l’IA qui l’a fait. » Les entreprises doivent planifier l’humanité des deux côtés de leur nouveau logiciel de recrutement d’IA.
