ある会社がAIで採用を支援しているとき、不採用になった応募者は誰に理由を尋ねればよいのだろう。
私が望むのは、すべての判断を手作業に戻すことではない。提案、採点、実行をシステムに任せやすくなるにつれ、権限と責任も明確にしているかということだ。
旧稿は2025年7月12日に書かれ、2027年を考えるための時点にしていた。本版もその展望を残すが、特定の年をAIが全決定を引き受ける期限にはせず、想像上の状況を、すでに起きた普及の調査とも扱わない。
TL;DR:AIの意思決定への参加は、情報整理、提案、採点、権限を与えられた実行に分けたい。人が理由を語れても忠実とは限らず、AIの説明可能性も一律ではない。偏りはデータ、目標、運用から生じうるが、毎回必ず増幅するわけではない。本稿は仮の採用過程で、理由、影響の違い、権限、異議の扱いという四つを確認する。筆者の提案であり、2027年の予言、法的チェックリスト、公平の保証ではない。
一、AIがどの段階に参加するかを明確にする
ある会社がAIで履歴書を整理して順位を付け、採用担当者が面接対象を決めると仮定する。これは、誤りを誰も点検せず、システムが不採用通知を直接送る仕組みとは違う。
同じ「AI採用」という名前でも、権限の配置は大きく異なりうる。これは説明のための仮定であり、実名企業の利用実態や成果研究ではない。
銀行、医療、司法でも、AIツールがあるだけで融資、治療、判決をAIが単独で決めているとは言えない。実際のシステムを論じるには、用途、権限、専門的手続、適用規則を調べる必要がある。本稿は個別の導入を検収していない。
まず、どの段階を誰が担当し、どこで止められ、誰に影響するのかを問いたい。流れを明らかにしてから、調べる対象を定める。
二、理由を語れることと、理由が確かであることは違う
採用担当者が順位を説明できても、その説明が実際の判断過程を忠実に表すとは限らない。逆に、AIの説明可能性も手法、用途、相手によって異なり、すべてが完全に説明不能だとは言えない。
NISTの2021年説明可能AI文書は、説明の存在、受け手にとっての意味、説明の正確性を区別し、人が自分の判断を説明することの限界も論じている。[1]
したがって、もっともらしい文章が一つあればよいとは思わない。採用の例なら、どの情報を使い、順位の基準を確かめられ、説明が実際の過程に合っているかを調べたい。
全応募者にモデルの全パラメータの理解を求めるのではない。本人に関係する理由と、まだ分からない部分を知れるようにすることである。必要な程度は状況によって変わる。
三、公平は差別の意図の有無だけでは確かめられない
AIが差別の意図を示さなくても、結果が公平とは限らない。人が自分を公平だと感じることも、検証の証拠にはならない。
NISTの2023年AIリスク枠組みは、偏りの源を、より広い制度・システム、計算・統計、人の認知という層でも捉える。[2] そのため私は、学習データだけでなく、抽出、ラベル、採点目標、人が順位を使う方法も問いたい。
例えば、履歴書の順位付けが仕事と無関係な生活上の手がかりを能力指標にするなら、点検が必要になる。これはリスクの仮例であり、あるカフェでの行動が能力を予測するという本稿の研究結果ではない。
リスクは、偏りが毎回必然的に増幅するという意味でもない。指定した用途と集団でどんな違いがあり、合理的根拠があるか、修正後に改善したかを調べたい。採用データを得ていない本稿は、個別のシステムを公平、不公平と判定できない。
四、権力の問題を、変えられる配置に落とし込む
少数の供給者に依存し、データの流れを理解せず、記録を取り出せず、ツールを切り替えられない組織は、過程を点検し変える力を失うかもしれない。これは条件付きの懸念であり、巨大組織だけがAIを開発・運用できるという法則ではない。
モデルを学習すること、既存モデルを調整すること、既製サービスを使うことは別の仕事で、同じ資源のハードルにはまとめられない。本稿は供給者の市場占有率、学習費用、市場集中度を推計せず、特定四社が全員のすべてを知るとも推論しない。
採用の例なら契約と実装を調べたい。誰が履歴書を読み、誰が記録を持ち、用途を制限でき、利用中止後のデータをどう扱い、順位の誤りを誰が直せるのか。
これらには具体的な答えが要る。「AIは民主的ではない」「技術にはもう課題がない」と言うだけでは、システムと制度の確認にはならない。
五、人の参加を保つために、道具の能力を否定する必要はない
AIは選択肢の比較に使え、目標の提案や問題の発見を助けることもある。人の責任は、道具には特定の思考が永遠に不可能だと宣言しなければ成り立たないものではない。
私が気にかけるのは、誰が目標の採用権限を持ち、誰が結果を引き受け、影響を受ける人が異議を述べられるかである。モデルの点数だけでは、その配置を説明できない。
OECDのAI原則は、役割と状況に応じた責任、追跡可能性、不利益を受けた人が出力に異議を申し立てられるための情報を論じる。[3] これは統治の方向であって、特定地域の法的分析を本稿が終えたわけでも、一人が全結果を手計算し直す要求でもない。
人の参加は、チームで範囲を定め、記録し、重大な誤りに停止機構を設ける形でも実現できる。全員がモデル専門家になる必要はなく、AIを使うことは人が尊重される理由を消さない。
六、2027年の答えを待たず、四つを確かめる
組織でAIによる意思決定支援を使うなら、私はまず四つを問う。
- 理由を確かめられ、説明は実際の過程に合っているか。
- 人によって受ける影響に違いがないかを点検したか。まだどの情報が足りないか。
- 誰が権限を与え、止め、修正でき、結果の引き受けと対応を担うか。
- 当事者はどう異議を申し立て、誰が返答し、対応を記録するか。
これは筆者が整理した実務上の問いで、四つの普遍的な法的義務ではなく、問えば公平で安全になるという保証でもない。
2027年は長い視野を促せても、今の確認を省く物語にすべきではない。いつAIが全員のすべてを決めるかを予言するより、組織が今、何を使い、何を許し、失敗した後にどう責任を果たすかを説明してほしい。
資料と読解範囲(2026年11月4日まで確認)
- NIST、Four Principles of Explainable Artificial Intelligence、2021年9月、第2節の原則と第8節の人の説明の限界。説明の用途と正確性を区別するためで、本稿の仮例の試験結果ではない。
- NIST、AI Risk Management Framework 1.0、2023年1月、3.7の偏りとGOVERN、MAPの関連箇所。リスクの枠組みで、特定採用システムの公平の検証や本稿が新設する法的義務ではない。
- OECD、AI Principles公式ページ、2024年改訂原則の透明性、監督、責任。原則の層で使い、地域の具体的義務や個別事例の適法性は推論しない。
改訂説明:2027年を筆者の展望として残し、AIの全決定への必然的参加、人の天然の透明性、偏りの必然的増幅、四大企業がすべてを知るという断定を撤回した。旧稿を『AI2027』報告の要約にも変えていない。例はすべて仮定で、事例、統計、成果を追加していない。


💬 コメント
読み込み中...