Der Einsatz von KI bei der Personalbeschaffung scheint ein todsicherer Plan zu sein. Schließlich sind Menschen fehlerhaft und voreingenommen. Allerdings bringt KI auch ihre eigenen Vorurteile mit sich. Kritiker der künstlichen Intelligenz, die oft von möglichen Arbeitsplatzverlusten sprechen, befürchten schon lange, dass diese Technologie Arbeitsplätze vom Arbeitsmarkt streichen würde. Überraschenderweise deuten neue Forschungsergebnisse darauf hin, dass KI qualifizierte Bewerber aufgrund von Geschlecht, Rasse und Alter diskriminiert.
KI hat das Potenzial, Chancengleichheit bei der Personalbeschaffung zu schaffen, wird jedoch von Menschen trainiert und ist daher von menschlichen Vorurteilen geprägt. Lassen Sie uns das genauer betrachten:
Quellen der Verzerrung in der KI
Theoretisch ist ein KI-gestütztes Screening-Tool perfekt, da es weder denken noch urteilen kann und daher objektive Entscheidungen treffen kann. Mit der zunehmenden Verbreitung von KI sind jedoch auch die Fälle von Voreingenommenheit gestiegen. Hier einige Beispiele aus dem Jahr 2023:
- Im Juni berichtete Bloomberg, dass eine Analyse von 5,000 Bildern, die von Stable Diffusion verstärkten Geschlechter- und Rassenstereotype, die schlimmer waren als jene, die in der realen Welt zu finden sind. Gut bezahlte Jobs wurden durchweg von Personen mit helleren Hauttönen repräsentiert, während schlechter bezahlte Jobs mit dunkleren Hauttönen assoziiert wurden. Auch Geschlechterstereotype wurden beobachtet: Kassiererinnen und Sozialarbeiterinnen wurden größtenteils von Frauen repräsentiert, während Politiker und Ingenieure überwiegend von Männern besetzt waren.
- Ein Sprecher von StabilityAI, das Stable Diffusion betreibt, räumte ein, dass alle KI-Modelle aufgrund der Datensätze, mit denen sie trainiert werden, verzerrt seien. Dies unterstreicht das Kernproblem: Fehlerhafte Datensätze führen zu fehlerhaften Modellen.
- Workday, ein Systemsoftwareunternehmen, das HR- und Finanzlösungen anbietet, sieht sich einer Sammelklage von Derek Mobley gegenüber. Er behauptet, dass ihr KI-Screening-Tool ältere, schwarze und behinderte Bewerber diskriminiert. Obwohl Mobley, ein 40-jähriger schwarzer Mann mit Angstzuständen und Depressionen, die Anforderungen für die Stelle erfüllt, wurde er seit 100 von rund 2018 Stellen abgelehnt. Er steht stellvertretend für eine unbekannte Zahl von Personen, die von ähnlicher Diskriminierung berichten.
Diese Beispiele zeigen, dass KI-Tools, die mit Daten zu kulturellen, rassischen und geschlechtsspezifischen Unterschieden trainiert wurden, diese Vorurteile widerspiegeln und damit genau die Probleme verewigen, die die Unternehmen eigentlich beseitigen wollen.
Reaktion der Regierung auf Voreingenommenheit bei der Rekrutierung von KI-Beschäftigten
Anfangs war die Reaktion der Regierung auf die Voreingenommenheit bei der Rekrutierung von KI-Personal begrenzt. Seitdem wurden jedoch mehrere gesetzgeberische Maßnahmen ergriffen:
- Im Jahr 2019 verabschiedete Illinois ein Gesetz, das Arbeitgeber verpflichtet, Kandidaten bei Videointerviews über KI-Analysen zu informieren.
- Maryland folgte diesem Beispiel und verbot den Einsatz von Gesichtserkennung bei Vorstellungsgesprächen ohne die Zustimmung des Bewerbers.
- Im Jahr 2021 startete die Equal Employment Opportunity Commission (EEOC) das „Initiative für künstliche Intelligenz und algorithmische Fairness“ um KI-Technologie im Einstellungsverfahren zu überwachen und zu bewerten.
- Im selben Jahr verabschiedete der New Yorker Stadtrat ein Gesetz, das Arbeitgeber, die KI-Technologie einsetzen, verpflichtet, ihre Bewerber darüber zu informieren und sich jährlich einer Voreingenommenheitsprüfung zu unterziehen. Ab Juli 2023 soll das Gesetz in Kraft treten. Kritiker argumentieren jedoch, das Gesetz sei nicht spezifisch genug und enthalte keine Bestimmungen zur Diskriminierung aufgrund des Alters oder einer Behinderung.
Das US-Justizministerium und die EEOC haben außerdem einen gemeinsamen Leitfaden herausgegeben, der Arbeitgebern von „blindem Vertrauen in KI“ abraten, um Bürgerrechtsverletzungen zu vermeiden. Vor Kurzem hat die EEOC Anhörungen mit Experten durchgeführt, um die potenziellen Vorteile und Nachteile von KI am Arbeitsplatz zu diskutieren.
Die Zukunft der KI bei der Personalbeschaffung
Viele US-Unternehmen haben KI in ihre Einstellungsprozesse integriert. Eine Studie von SHRM ergab, dass 79 % der Unternehmen Automatisierung und/oder KI für die Rekrutierung und Einstellung nutzten. Unternehmen sollten mit einer verstärkten Kontrolle ihrer Einstellungspraktiken rechnen. Das New Yorker Gesetz wird voraussichtlich auch andere Bundesstaaten beeinflussen, wobei Kalifornien, New Jersey, Vermont und New York Berichten zufolge an ihren eigenen KI-Vorschriften arbeiten.
Ressourcenintensive Unternehmen wie Amazon können ihre Tools entwickeln, trainieren und testen, um bessere Ergebnisse zu erzielen. Unternehmen, die Tools von Drittanbietern kaufen, sind jedoch einem höheren Risiko von Voreingenommenheit und Bürgerrechtsverletzungen ausgesetzt. Gründliche Überprüfungs- und Auditprozesse sind für Unternehmen, die KI-Technologie für Beschäftigungszwecke einsetzen, von entscheidender Bedeutung.
Die Schlussfolgerung für Unternehmen? Bald wird es nicht mehr ausreichen zu sagen: „Das waren nicht wir, das war die KI.“ Unternehmen müssen die Menschlichkeit auf beiden Seiten ihrer neuen KI-Personalbeschaffungssoftware einplanen.
