如果一家公司用AI协助招聘,求职者被拒绝时,应该找谁问原因?

我关心的不是把所有决定都推回手工处理,而是当建议、评分与执行越来越容易交给系统,权限和责任有没有一起说清楚。

原文写于2025年7月12日,把2027年当成思考的时间点。本版仍保留这个展望,但不把某一年写成AI必然接管所有决定的期限,也不把情境想像当成已发生的普及调查。

TL;DR:AI参与决策,应先分清它是在整理数据、提出建议、评分,还是被授权执行。人能说出理由,不保证理由忠实;AI的可解释程度也不能一概而论。偏差可能来自数据、目标与使用流程,并非每次都必然放大。本文以假设的招聘流程提出四项检查:理由、差异、权限、异议处理。这是作者的治理建议,不是2027年的预言、法规清单或公平保证。

一、先说清楚AI参与哪一步

假设一家公司用AI整理履历、产生排序,再由招募人员决定面试名单。这与系统直接寄出拒绝通知、而没有人检查错误,是不同的安排。

同样一个「AI招聘」名称,可能指完全不同的权限。这是本文的示意情境,不是具名公司的使用实况或成效研究。

银行、医疗或司法也不能因为出现AI工具,就概括成AI已独自决定贷款、治疗与判决。若要讨论某个实际系统,还要查它的用途、授权、专业程序及适用规定;本文没有做这些个案验收。

我更想先问:哪一步由谁做,哪一步能被拦下,结果会对谁造成影响?先把流程画清楚,才知道该查什么。

二、能说理由,不等于理由已经可靠

招募人员能解释一份排序,不代表那段解释一定忠实反映判断过程。反过来,AI系统的可解释程度也会依方法、用途与说明对象而异,不能统称完全无法解释。

NIST在2021年的可解释AI文件中,分开能否提供解释、对接受者是否有意义,以及解释是否准确;它也讨论人对自己决定的说明并不总可靠。[1]

所以我不会只满足于「有一段听起来合理的话」。在招聘示例里,我会要求核对:使用了哪些数据、排序依据能否查验、说明是否对得上实际流程。

这不是要求每位求职者都读懂模型全部参数,而是希望当事人能理解与自己相关的理由,并知道哪里还不清楚。具体需要到什么程度,仍得按情境处理。

三、公平不能只看模型有没有偏见意图

AI没有表明歧视意图,不等于结果就公平;人觉得自己公平,也不是验收证据。

NIST的2023年AI风险框架把偏差来源放在更广的系统、计算统计与人类认知层面。[2] 我据此会追问的不只训练数据,也包括抽样、标记、评分目标,以及人怎么使用排序。

例如,假设履历排序把与工作无关的生活线索当成能力指标,就值得检查。这是说明风险的假设,不是本文发现某种咖啡馆行为能预测能力的研究结果。

风险也不等于每次必然放大偏见。真正要看的是,在指定用途与群体里出了什么差异、差异是否有合理根据,以及修正后是否改善。本文没有取得招聘数据,不能宣告任何系统已公平或不公平。

四、权力问题要落在可以改变的安排上

我仍担心,当组织依赖少数供应者,却不了解数据流向、无法带走纪录或切换工具,会失去检查和改变流程的能力。这是有条件的治理疑虑,不是所有AI只能由巨头开发或部署的定律。

自行训练模型、调整既有模型,以及采用现成服务,是不同的工作;不能把它们混成同一种资源门槛。本文不做供应者市占、训练成本或市场集中度估算,也不推论某四家公司因此知道每个人的一切。

在招聘示例里,我会先查合约与实作:谁能读履历、纪录由谁保存、能否限制用途、停用后如何处理数据,以及排序出错时谁能改正。

这些问题需要具体答案。只说「AI不是民主的」或「技术已没难题」,都无法代替对系统及制度的检查。

五、人的参与,不必靠否认工具能力来保住

AI可以被用来比较选项,也可能协助提出目标或指出问题。人的责任不是靠宣布工具永远做不到某种思考,才得以成立。

我在意的是:谁有权采用目标,谁会承受后果,受影响的人能不能提出异议。这些安排不能只用一个模型分数交代。

OECD的AI原则依角色与情境谈责任、追溯,以及让受不利影响者能质疑输出的信息。[3] 这提供治理方向,并不表示本文已完成某地法规分析,也不要求每个结果都由一人重新手算。

保留人的参与,可以是团队共同订范围、留下纪录、对重大错误设停止机制。不是每个人都得成为模型专家,更不是有了AI就失去被尊重的理由。

六、从四项检查开始,不等2027给答案

若要在一个组织里使用AI协助决策,我会先问四件事:

  • 理由能不能查验,说明是否对得上实际流程?
  • 对不同人的影响有没有被检查,还缺哪些数据?
  • 谁能授权、停止或改正,谁负责承受与处理后果?
  • 当事人如何提出异议,由谁回复并留下处理纪录?

这是作者整理的实务问题,不是四项通用法定义务,也不保证问完就公平安全。

2027年可以提醒我们把眼光放远,但不应成为略过当下检查的故事。与其预言AI到了哪一年会替所有人决定,我更希望组织现在就能说清楚:用了什么、允许什么,以及出错后怎么负责。

四格漫画:如果一家公司用AI协助招聘,求职者被拒绝时,应该找谁问原因?理由能不能查验,说明是否对得上实际流程?对不同人的影响有没有被检查,还缺哪些数据?谁能授权、停止或改正,谁负责承受与处理后果?当事人如何提出异议,由谁回复并留下处理纪录?这是作者整理的实务问题,不是四项通用法定义务,也不保证问完就公平安全。

数据来源与阅读界线(查核至2026年11月4日)

  1. NIST,Four Principles of Explainable Artificial Intelligence,2021年9月,第2节原则及第8节人类解释限制。用于区分解释用途与准确性,不作本文示例的测试结果。
  2. NIST,AI Risk Management Framework 1.0,2023年1月,3.7偏差及GOVERN、MAP相关段落。这是风险框架,不是特定招聘系统的公平验证或本文新增的法律义务。
  3. OECD,AI Principles官方页,2024修订原则中的透明、监督与责任段落。本文采原则层次,不推论各地具体义务或个案已合规。

修订说明:本版把2027年保留为作者展望,撤下AI必然介入每个决定、人类天然透明、偏差必然放大及四巨头知道一切的断言;也不把原文改成《AI2027》报告摘要。示例均为假设,未新增个案、统计或成效。