AIエージェントが取引先審査やリスク判定、後続処理まで担うと、制度上の責任者と実際の判断権限がずれ始める。人間の承認を置くだけでなく、AI権限、人間権限、エスカレーション、オーバーライド、停止条件、Decision Logsを設計する必要がある。

AIが判断に参加する組織で、誰が決めるのか

AIが自ら取引先を審査し、リスクを判定し、次の処理を開始する。そのとき、組織のなかで本当に「決めた」のは誰なのだろうか。

AI時代の中心課題は、モデルの性能だけではない。AIと人間のあいだで、誰が、どの条件で、どこまで決めるのかという判断権限の設計である。

AIは「助言者」から「判断の参加者」へ変わった

ある企業で、取引先から届いた申請書をAIが読み、契約条件と照合し、リスクを評価している。問題がなければ登録処理まで進み、人間は異常が検出されたときだけ呼び出される。

この業務について、「最終的には人間が責任を持っている」と言い切れるだろうか。画面上の承認ボタンを人間が押していても、確認できる時間や情報が限られ、AIの推奨がほぼそのまま採用されるなら、実質的な判断権限はどこにあるのか。

AIは、判断を支援する道具から、判断に参加する存在へ変わりつつある。分析や文章生成にとどまらず、審査、順位付け、資源配分、発注、顧客対応、システム操作まで連続して実行するAIエージェントが現れたからだ。

この変化は技術革新であると同時に、組織設計の問題である。従来の企業は、重要な判断が最終的に人間へ帰属することを前提に、役職、職務分掌、決裁規程、承認限度額、監査を組み立ててきた。ところがAIが結果を左右し、自ら処理を進めるようになると、制度上の責任者と実際に判断を形成した主体がずれ始める。

Forbesが示した「人間だけの組織」の終わり

2026年7月31日、Forbes Technology CouncilにKrupesh Bhat氏の「The End Of Human-Only Organizations」が掲載された。Bhat氏は契約インテリジェンスを手がける企業Melento（旧SignDesk）のCEO兼創業者であり、この記事は同氏の見解として書かれたCouncil Postである。

記事の重要な主張は、AIをCapability、つまり「何ができるか」だけで評価してはいけないという点にある。問うべきはAuthority、「何を決めてよいか」である。

人間だけを前提とした組織では、取締役会から経営者へ、経営者から部門へ、部門から担当者へと権限が委譲される。融資担当者が与信を承認し、購買責任者が支出を認め、コンプライアンス担当者が処理を止める。誰が何を決められるかは、役割と規程によって可視化されていた。

しかしAIが取引先の資料を検査し、契約上の義務とリスクを評価し、調達処理を開始するなら、そのAIは単なる情報処理ツールではない。財務的、法的、業務的な帰結を生む判断過程の参加者である。能力の高い従業員にも無制限の権限を与えないのと同じように、AIの価値とリスクも、どの境界内で動けるかによって決まる。

Bhat氏は、その基盤としてContract Intelligenceにも注目する。契約には当事者、義務、責任、承認条件、金額上限、例外、エスカレーション要件が含まれる。契約情報をAIが参照できる形にすれば、契約は過去の合意を保存する文書から、権限を定義し、監視し、執行するための基盤へ変わり得る。

その先にあるのがInstitutional Trustである。AIモデルの性能差はいずれ縮まり、機能は普及する。それでも、顧客、規制当局、取引先が信頼できる形でAIへ権限を与える組織能力は、簡単には模倣できない。AI時代の競争優位は、自動化の量ではなく、判断を統治する力へ移るというのが記事の論理である。

日本政府も「人間の判断の介在」を示している

この問題は一企業の見解にとどまらない。総務省・経済産業省が2026年3月31日に公表した「AI事業者ガイドライン（第1.2版）」は、AIエージェントを「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」と定義している。

政府は、自律的に動くAIエージェントの誤作動やプライバシー侵害などのリスクを踏まえ、開発者、提供者、利用者に人間中心の仕組みを求める方向を明確にしている。ガイドラインはもともと「人間の判断の介在」という考え方を掲げ、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討するよう求めてきた。第1.2版では、これをAIエージェントにも広げ、人間の判断を介在させる仕組みの構築を留意すべき事項として加えている。同時に、人間がAI出力を無批判に受け入れる自動化バイアス（過度な依存）への対策も求めている。

ただし、これは一律に人間承認を法的義務として課すものではない。ガイドラインが示すのは、用途とリスクに応じて人間の判断を実質的に機能させるという方向性である。そして、ここにまだ解くべき問題が残る。

「人間を入れる」だけでは境界は決まらない

Forbes記事はAuthorityの重要性を示した。政府ガイドラインは人間の判断を介在させる方向を示した。どちらも重要である。しかし、AIにどこまで委譲し、どこから人間が引き受けるのか、その境界の設計方法までは自動的に決まらない。

人間が関与しているという事実と、その人に十分な情報、時間、専門性、拒否権があることは別である。承認ボタンを置くだけでは、AIへの追認を人間の判断に見せかける可能性がある。異常時に誰が止めるのか。AIの判断を誰が覆せるのか。権限をいつAIから回収するのか。事故後に、その移動をどう再現するのか。ここにあるのは監督の不足ではなく、判断権限の設計の不足である。

この判断権限の設計不足を埋めるのが、Decision Design™︎である。Decision Designは、判断という行為そのものを設計対象とする思想だ。その中心にあるのが、Decision Boundary™︎という概念である。誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。その線を無自覚のまま放置せず、意図的に設計すること。それがDecision Designである。この先では、Decision Designが何を設計し、何ではなく、どの問題を対象とするのかを明確にしたうえで、Decision Boundaryを実務へ落とす五つの項目と、取引先審査への具体的な実装例を示す。

Decision Designは何を設計するのか

Decision Designは、AIと人間が共同で判断する組織において、判断権限がどのように配分され、移動し、回収され、説明責任を伴うかを設計する。

設計対象はAIモデルではない。Authority、権限の切替条件、Escalation、Override、Suspension、そして判断過程の記録である。

英語での固定定義は次のとおりである。

Decision Design is not about improving decisions alone.

It is the institutional design of how judgment authority is structured, allocated, and held accountable between humans and AI.

Working Paper Decision Design as Judgment Architecture では、これをJudgment Architectureと呼ぶ。個人の思考法やAIの内部構造ではなく、判断権限を割り当て、制約し、移管し、説明可能にする組織アーキテクチャである。

Decision Designは何ではないのか

Decision Designは、意思決定の質だけを改善する方法ではない。予測やプロンプトを改善しても、それだけでは「誰が決めてよいか」は定まらない。

Decision Designは、AIに価値観を教える技術でも、あらゆる判断を人間へ戻す考え方でもない。人間の介在を増やすこと自体が目的ではなく、影響度と条件に応じて、AIへ委譲する領域と人間が引き受ける領域を明示する。

Decision Designはどの問題に対する概念なのか

Decision Designが対象とするのはGovernance Gapである。AIの判断参加が拡大する一方、権限配分、エスカレーション、責任、記録が人間だけを前提としたまま残る構造的不整合を指す。

Governanceは方針、監督、責任を示すが、個々の判断におけるAI権限の境界までは決めない。

DXは業務を変革するが、移動した判断権限を誰が持つかまでは決めない。

Automationは処理を自動化するが、自動化できる判断の範囲と停止条件までは決めない。

AI Ethicsは重要な価値を示すが、それを誰の権限、どの停止条件、どの記録で実装するかまでは決めない。

これらを、判断権限という共通の設計対象で横断し、運用可能な構造へ結びつける概念がDecision Designである。

Decision Boundaryは権限の切替条件を定める

Decision Boundaryは、AIへ委譲する判断と、人間または組織が引き受ける判断の境界である。より制度的にはGovernance Decision Boundariesとして扱う。

Governance Decision Boundaries define where authority begins, ends, transfers, escalates, or is suspended between human and AI participants.

実装では、少なくとも次の五つを定義する。

AI Authority：AIが独立して実行できる判断の種類、金額、対象、利用可能なデータ。
Human Authority：人間だけが決める事項、最終決定者、その人が持つ拒否権。
Escalation：例外、低信頼度、データ欠損、重大な影響がある場合に、誰へ権限を移すか。
Override：誰が、どの根拠で、AIの判断を覆せるか。二重承認や事後レビューを必要とするか。
Suspension：事故、性能劣化、法令変更、環境変化が起きたとき、誰がAIの権限を停止し、どの条件で再開するか。

境界を信頼度スコア一つに還元してはいけない。本人の権利、巨額の支出、契約解除など重大な影響を伴う判断は、精度が高くても人間権限として残すことがある。境界は組織の責任を反映する制度的なルールである。

取引先審査にDecision Boundaryを実装する

冒頭の取引先審査へ戻ろう。まず業務工程ではなく、そこで行われる判断を分ける。

AIには、定型書類の確認、登録情報や制裁リストとの照合、所定条件内のリスク分類を委譲する。低リスクで、契約額が範囲内にあり、データ欠損がない場合に限り、次工程への移行を認める。

人間には、例外条項の解釈、高リスク取引先の受入れ、契約変更、取引拒否を残す。AIの推奨を覆す場合は理由を記録し、一定額以上なら二重承認を求める。

情報の矛盾、契約上の例外、低信頼度は人間へエスカレーションする。重大な誤判定、データ漏えい、外部サービスの仕様変更が起きた場合はAI権限を停止し、人間処理へ戻す。再開には原因分析、検証、責任者の承認を必要とする。

これで「人間の判断の介在」は、承認ボタンから組織設計へ変わる。人間がどの条件で権限を受け取り、実質的に判断できるかが明確になるからだ。

Decision Logsは権限の移動を記録する

境界を定めても、実際にその通り動いたかを検証できなければ制度は形だけになる。そこで必要になるのがDecision Logsである。

Decision Logs are accountability infrastructure that records how authority moved—not merely what decision was produced.

Decision Logsは出力だけでなく、誰が権限を持ち、どの境界条件により権限がAIから人間へ移り、人間がなぜ採用またはOverrideしたかを残す。

取引先審査なら、AIのリスク分類だけでなく、適用ルール、エスカレーション条件、権限を受け取った役割、人間の判断根拠を関連づける。これにより、事故後にAuthorityの移動を再構成できる。

Decision Logsは単なるログではない。境界が適切だったか、人間が形式的な追認者になっていないかを学ぶためのAccountability Infrastructureである。

AI時代の競争優位は、判断権限を設計できること

Forbes記事は、AI時代にはAuthorityとInstitutional Trustが重要になると示した。日本のAI事業者ガイドライン第1.2版も、AI単独判断に任せず、人間の判断を適切に介在させる方向を示している。

しかし、人間を置くだけでは統治にならない。AI権限、人間権限、Escalation、Override、SuspensionをDecision Boundaryとして定め、権限の移動をDecision Logsへ残して初めて、Trustは運用可能な制度になる。

AI時代の競争優位は、AIそのものではない。優れたモデルは普及し、機能差は縮まる。それでも組織ごとに残る差は、判断権限を明示し、状況に応じて移し、必要なときに回収し、その履歴に説明責任を持てるかどうかである。

判断権限を設計できる組織だけが、AIを安心して拡張できる。

参考資料

Krupesh Bhat, “The End Of Human-Only Organizations,” Forbes Technology Council, July 31, 2026.
総務省・経済産業省「AI事業者ガイドライン（第1.2版）」2026年3月31日。
Ryoji Morii, Decision Design as Judgment Architecture: Structuring Authority and Accountability in Human–AI Systems, Insynergy Working Paper, March 2026.