使用人工智能进行招聘似乎是一个万无一失的计划。毕竟，人类是有缺陷和偏见的。然而，人工智能也有自己的偏见。人工智能的批评者经常直言不讳地表示，人工智能可能会取代工作岗位，他们长期以来一直担心这项技术会取代劳动力。令人惊讶的是，新的研究表明，人工智能会根据性别、种族和年龄歧视合格的候选人。
人工智能有潜力在招聘中创造公平的竞争环境，但它是由人类训练的，因此继承了人类的偏见。让我们来分析一下：
人工智能中的偏见来源
理论上，人工智能筛选工具是完美的，因为它无法思考或做出判断，因此可以做出客观的决定。然而，随着人工智能的普及，偏见事件也随之增多。以下是 2023 年的一些例子：
- 5,000 月份，彭博社报道称，对 XNUMX 张由 稳定扩散 比现实世界中更严重地强化了性别和种族刻板印象。高薪工作始终由肤色较浅的人代表，而低薪工作则与肤色较深的人有关。性别刻板印象也得到了观察，收银员和社会工作者大多由女性代表，而政客和工程师则大多为男性。
- 负责 Stable Diffusion 运营的 StabilityAI 的一位发言人承认，所有 AI 模型都会根据其训练的数据集产生偏差。这凸显了核心问题：有缺陷的数据集会导致有缺陷的模型。
- Workday是一家提供人力资源和财务解决方案的系统软件公司，目前正面临由德里克·莫布里 (Derek Mobley) 领导的集体诉讼。他指控他们的人工智能筛选工具歧视年长、黑人和残疾求职者。尽管符合工作资格，但患有焦虑症和抑郁症的 40 岁黑人莫布里自 100 年以来已被约 2018 个职位拒绝。他代表了报告类似歧视的人数不详的人。
这些例子表明，使用具有文化、种族和性别差异的数据训练的人工智能工具将反映这些偏见，从而使公司想要消除的问题长期存在。
政府对人工智能招聘偏见的回应
最初，政府对人工智能招聘偏见的反应有限。然而，此后已采取了多项立法行动：
- 2019年，伊利诺伊州通过了一项法案，要求雇主在视频面试期间告知应聘者人工智能分析的情况。
- 马里兰州随后禁止在未经申请人同意的情况下在就业前面试中使用面部识别技术。
- 2021 年，平等就业机会委员会 (EEOC) 启动了 “人工智能和算法公平倡议” 监控和评估招聘实践中的人工智能技术。
- 同年，纽约市议会通过了一项法律，要求使用人工智能技术的雇主向求职者披露该技术，并接受每年的偏见审计检查，该法律将于 2023 年 XNUMX 月开始执行。然而，批评人士认为，该法律不够具体，缺乏针对年龄和残疾歧视的规定。
美国司法部和平等就业机会委员会还发布了一份联合指南，建议雇主不要“盲目依赖人工智能”，以避免侵犯公民权利。最近，平等就业机会委员会与专家举行了听证会，讨论人工智能在工作场所的潜在好处和危害。
人工智能在招聘领域的未来
许多美国公司已将人工智能融入招聘流程。2022 年的一项研究 人力资源管理学会 发现 79% 的公司在招聘和聘用中使用自动化和/或人工智能。组织应预计其招聘实践将受到更多监督。纽约的法律预计将影响其他州，据报道，加利福尼亚州、新泽西州、佛蒙特州和纽约州正在制定自己的人工智能法规。
像亚马逊这样的资源密集型公司可以开发、培训和测试他们的工具以获得更好的结果。然而，从第三方供应商购买工具的公司面临更高的偏见和侵犯公民权利的风险。对于将人工智能技术用于就业目的的企业来说，彻底的审查和审计流程至关重要。
对企业来说，这有什么意义呢？很快，光说“这不是我们做的，是人工智能做的”就不够了。企业必须为新人工智能招聘软件的双方人性化做好规划。
