採用に AI を使うのは、完璧な計画のように思えます。結局のところ、人間には欠点があり、偏見があります。しかし、AI にも独自の偏見があります。AI の批評家は、潜在的な雇用喪失について声高に主張することが多く、このテクノロジーによって労働力から仕事がなくなることを長い間懸念してきました。驚くべきことに、新しい調査では、AI が性別、人種、年齢に基づいて適格な候補者を差別していることが示唆されています。
AI は採用において公平な競争条件を実現する可能性を秘めていますが、AI は人間によってトレーニングされるため、人間の偏見を受け継いでいます。詳しく見てみましょう。
AIにおけるバイアスの原因
理論上、AI を活用したスクリーニング ツールは、考えたり判断したりすることができないため、客観的な決定を下すことができるため、最適です。しかし、AI の導入が増えるにつれて、偏見の事例も報告されるようになりました。2023 年の例をいくつか紹介します。
- 5,000月にブルームバーグは、 安定拡散 現実世界で見られるよりもひどい性別と人種の固定観念を強化しました。高収入の仕事は一貫して肌の色が明るい人によって代表され、低収入の仕事は肌の色が暗い人によって関連付けられました。性別の固定観念も見られ、レジ係やソーシャルワーカーは主に女性であるのに対し、政治家やエンジニアはほとんどが男性でした。
- Stable Diffusion を運営する StabilityAI の広報担当者は、すべての AI モデルには、トレーニングに使用したデータセットに基づくバイアスがあることを認めました。これは、欠陥のあるデータセットが欠陥のあるモデルにつながるという核心的な問題を浮き彫りにしています。
- ワークデー人事および財務ソリューションを提供するシステムソフトウェア会社であるは、デレク・モブレー氏が率いる集団訴訟に直面している。同氏は、同社のAIスクリーニングツールが高齢者、黒人、および障害を持つ応募者を差別していると主張している。不安障害とうつ病を患う40歳の黒人男性であるモブレー氏は、職務要件を満たしているにもかかわらず、100年以来約2018の職に就けていない。同氏は、同様の差別を訴える未公開の数の人々の代表となっている。
これらの例は、文化、人種、性別の差異のあるデータでトレーニングされた AI ツールがそれらの偏見を反映し、企業が排除しようとしている問題そのものを永続させることを示しています。
AI採用における偏見に対する政府の対応
当初、AI 採用における偏見に対する政府の対応は限られていました。しかし、その後、いくつかの立法措置が講じられました。
- 2019年、イリノイ州は、ビデオ面接中にAI分析が行われることを応募者に通知することを雇用主に義務付ける法案を可決しました。
- メリーランド州もこれに続き、応募者の同意なしに就職前面接中に顔認識技術を使用することを禁止した。
- 2021年、雇用機会均等委員会（EEOC）は、 「人工知能とアルゴリズムの公平性に関する取り組み」 採用活動における AI テクノロジーの監視と評価。
- 同年、ニューヨーク市議会は、AI技術を使用する雇用主に応募者にその技術を開示し、毎年の偏見監査チェックを受けることを義務付ける法律を可決し、2023年XNUMX月から施行される。しかし、批評家は、この法律は十分に具体的ではなく、年齢や障害による差別に関する規定がないと主張している。
米国司法省とEEOCも、公民権侵害を避けるために「AIへの盲目的依存」を雇用主に勧める共同ガイドを発表しました。最近、EEOCは職場におけるAIの潜在的な利点と害悪について議論するため、専門家との公聴会を開催しました。
採用におけるAIの未来
多くの米国企業は採用プロセスにAIを導入している。2022年の調査では、 SHRM 調査によると、企業の 79% が採用および雇用に自動化や AI を利用していることがわかりました。組織は採用活動に対する監視の強化を覚悟する必要があります。ニューヨーク州の法律は他の州にも影響を及ぼすと予想されており、カリフォルニア州、ニュージャージー州、バーモント州、ニューヨーク州は独自の AI 規制に取り組んでいると報じられています。
Amazon のようなリソースを大量に消費する企業は、ツールを開発、トレーニング、テストすることで、より良い成果を上げることができます。しかし、サードパーティ ベンダーからツールを購入する企業は、偏見や公民権侵害のリスクが高くなります。雇用目的で AI テクノロジーを使用する企業にとって、徹底した審査と監査のプロセスは不可欠です。
企業にとっての教訓は何でしょうか? 近い将来、「それは私たちではなく、AI がやったことだ」と言うだけでは不十分になるでしょう。企業は、新しい AI 採用ソフトウェアの両側の人間性について計画を立てなければなりません。
