AI 招聘工具引发种族偏见与系统性拒绝：26% 的黑人与 15% 的亚裔受影响

背景

当前正值毕业季，2026 届毕业生正进入近年来最严峻的劳动力市场之一。初级职位的招聘速度放缓，与此同时，AI 工具使得求职者发送申请变得前所未有的容易。职位减少而申请激增，导致企业对初级职位收到的申请量几乎是 2022 年的三倍。AI 不仅改变了企业是否雇佣员工的决策，更深刻地改变了雇佣的方式。

数据显示，90% 的美国雇主使用 AI 筛选工具来分类和排名求职者，且大多数雇主依赖少数几个第三方供应商。当一种算法影响众多雇主时，这对求职者意味着什么？

一项针对“野生”环境中招聘算法的首次大规模研究，揭示了系统拒绝候选人的令人担忧的模式。该研究追踪了 340 万人向 1,700 个职位发布（涵盖 150 家雇主和 11 个行业部门）提交的 400 万份求职申请。每份申请均由单一第三方供应商构建的 AI 招聘工具进行评估。这项新论文罕见地揭示了算法招聘“黑箱”内部的运作，表明这些工具增加了种族偏见，并在求职者申请的所有地方将他们排除在就业机会之外。

核心内容

规模化显现的种族偏见

研究发现，基于 AI 的候选人筛选存在显著的种族差异。为了衡量不利影响（adverse impact），研究应用了美国平等就业机会委员会（EEOC）的“五分之四法则”（four-fifths rule）。该法则规定，当某一群体被推荐的比率低于最受推荐群体（通常是白人申请人）的 80% 时，即标记该职位存在歧视风险，这是美国就业法（Title VII）的相关规定。

研究揭示，26% 的黑人申请人和 15% 的亚裔申请人申请了那些 AI 系统对其种族群体存在歧视的职位。为了直观理解这一数据：如果 AI 以与最受青睐群体（通常是白人）相同的比率推荐黑人和亚洲候选人，那么将有 40,000 份他们的申请能够进入招聘的下一阶段。

衡量方式揭示真相

研究指出，衡量不利影响的方式至关重要。该供应商为众多雇主的不同职位筛选申请人。如果将所有推荐数据合并在一起——即将该供应商视为一个巨大的招聘流程——则不会发现不利影响。然而，如果像典型的歧视评估那样，单独查看每个职位，就能暴露出许多职位中存在的不利影响。

例如，假设 AI 工具经常推荐黑人申请人从事仓库工作，但很少推荐他们从事金融工作。如果将所有职位的平均值加总，这两种模式会相互抵消，从而看似不存在歧视。这种宏观平均数掩盖了逐个职位发生的真实歧视。

算法单一文化导致系统性拒绝

研究还探讨了因共同依赖单一招聘供应商而带来的新担忧。在之前的工作中，研究者 theorize（理论推测）：当许多雇主依赖相同的算法推荐时，形成的“算法单一文化”（algorithmic monocultures）可能导致某些人被彻底排除在就业机会之外。利用大规模的真实招聘 AI 推荐数据集，研究者验证了这一假设。

研究发现，向由同一算法招聘供应商筛选的多个职位提交申请的求职者，被所有申请职位拒绝的可能性，高于各公司独立做出统计决策的情况。10% 提交了四份申请的求职者，被他们申请的所有地方拒绝。

市场集中度的关键作用

研究还发现，在其他情况下并未出现这种模式。研究者分析了此前最大规模的招聘决策研究数据，该数据在同一时期向 108 家财富 500 强公司发送了 83,000 份申请，且未重点关注 AI 是否用于决策。结果显示，求职者被所有申请公司拒绝的比率，并不高于各公司独立决策时的预期水平。

这表明市场集中度至关重要：随着单一招聘供应商在行业的筛选中占据主导地位，候选人被系统性排除的可能性会增加。

高风险决策中的危险组合

AI 筛选工具将三个不应在高风险决策中共存的特性结合在一起：广泛采用（pervasively adopted）、影响巨大（highly consequential）和对公众不透明（opaque to the public）。尽管本研究在阐明 AI 招聘工具的后果方面取得了进展，但该技术的大部分影响仍不清楚。随着使用语言模型和智能体（agents）构建的新工具不断涌现，这一领域正在迅速演变。

关键要点

• 种族偏见显著：26% 的黑人申请人和 15% 的亚裔申请人遭遇了 AI 系统的种族歧视。若消除偏见，将有 40,000 份申请进入下一轮。
• 聚合数据掩盖真相：将不同职位的推荐数据合并分析会掩盖歧视，必须按职位单独评估才能发现“五分之四法则”下的违规情况。
• 算法单一文化导致系统性拒绝：依赖同一供应商的算法会导致求职者被“全拒”。提交 4 份申请的人中，有 10% 被所有申请公司拒绝，且这种拒绝率高于独立决策的预期。
• 市场集中度是核心风险：与未聚焦 AI 的大规模历史数据相比，单一供应商主导的市场更容易导致候选人被系统性排除。
• 三大危险特性共存：AI 招聘工具具备广泛采用、高后果性和不透明性，这在高风险决策中是危险的组合。
• 独立研究不可或缺：缺乏独立研究将难以制定基于证据的 AI 政策，以规范 AI 对个人就业前景和整体劳动力构成的影响。

意义与影响

这项研究揭示了当前招聘市场中一个隐蔽但严重的结构性问题。随着企业为了应对海量申请而普遍采用 AI 筛选工具，且这些工具往往来自少数几家第三方供应商，劳动力市场正面临“算法单一文化”的风险。

对求职者的影响： 对于少数族裔求职者而言，这种系统性偏见不仅意味着个体机会的丧失，更可能导致特定群体在特定行业或职位类型中被边缘化。例如，黑人申请人可能在某些行业被系统性低估，而在其他行业被高估，宏观数据的平均化使得这种结构性不公难以被察觉和纠正。

对企业和监管的影响： 研究强调了市场集中度的危害。当少数几家供应商垄断了招聘筛选算法，任何算法中的偏差都会被放大并复制到众多雇主中。这不仅违反了公平就业的原则，也可能给企业带来法律风险。

政策建议： 研究最后强调，必须加强针对算法招聘的独立研究。目前，AI 招聘工具的不透明性使得外部难以评估其公平性。只有依靠独立、透明的研究数据，监管机构才能制定出有效的政策，确保 AI 在提升招聘效率的同时，不会加剧社会不平等或造成系统性的就业排斥。随着生成式 AI 和智能体技术的引入，这一领域的监管需求将变得更加迫切。