AIガバナンスの議論は、長いあいだ「見えるようにすること」を中心に進んできた。
どのモデルが、どのデータで、何を出力したか。
その記録を残し、後から監査できる状態にする。
透明性(transparency)と可視化(visibility)は、AIへの信頼を取り戻すための最初の一手だった。
2026年6月、Forbesに掲載されたGerald J. Leonardの記事「Why AI Governance Needs Visible Authority Now」は、その先を指している。
Leonardの主張は、可視化だけでは足りない、という一点にある。
記録が見えるだけでは、誰も動かない。
見えた異常に対して、誰が判断し、誰が止め、誰が責任を負うのか。
その権限(authority) が定まっていなければ、可視化されたダッシュボードはただの飾りになる。
可視化から権限へ、という移動
Leonardの議論の芯は、Decision Rights(決定権) と Accountability(説明責任) を、可視化と同じ高さに引き上げた点にある。
可視化はシステムの状態を示す。
だが状態を見た後に誰が決められるのか、その決定の結果を誰が引き受けるのか。
ここが空白のままだと、AIの振る舞いは見えているのに誰も手を出せない、という奇妙な膠着が起きる。
Leonardはこの流れを Detect(検知)、Decide(決定)、Direct(指示) の3段で描く。
異常や逸脱を検知する。
それにどう動くかを決定する。
そして実際に系へ指示を出す。
可視化が支えているのは、このうち最初のDetectだけだ。
残りのDecideとDirectは、権限を持つ誰かがいて初めて回りはじめる。
だからこそ、いまAIガバナンスには見える権限が要る、というのがLeonardの結論である。
ここまでは、正しい。
可視化の上に権限を載せるという順番は、ガバナンスを「観察」から「作動」へ進めるための、必要な1段だ。
では、その権限は誰が決めるのか
ただ、一つ問いが残る。
Leonardは「権限を見えるようにせよ」と言う。
では、その権限そのものは、誰が、どうやって決めるのか。
誰が最終的に判断するか。
それを決めているのは、たいていの現場では、誰でもない。
組織図にも業務フローにも、明示的には書かれていない。
気づいたときには「なんとなくAIに任せていた」「なんとなく現場が承認していた」という状態になっている。
権限は、設計されて生まれているのではない。
多くの現場では、なし崩しに発生している。
Leonardが可視化しようとした権限は、その手前で誰かが線を引いた結果のはずだ。
ところが、その線を引く行為そのものは、まだ誰の仕事にもなっていない。
政府も「人間の判断」を求め始めている
この問いは、抽象的な思考実験ではない。
制度の側も、同じ場所に近づいている。
総務省と経済産業省は、2026年3月31日に「AI事業者ガイドライン(第1.2版)」を公表した。
第1.2版で新しく書き込まれたのが、自律的に動くAIエージェントへの留意点である。
AIエージェントやフィジカルAIは自律的に動作するため、誤作動やプライバシー侵害のリスクを念頭に、AI提供者は人間の判断を介在させる仕組みを構築することが重要だ、とされた。
権限の適切な設定、人間の判断の適切な介在、操作履歴の定期的な確認と報告。
ガイドラインが事業者に求めているのは、結局のところ「どこで人間が判断するか」を、あらかじめ決めておくことだ。
ガイドラインは「人間を一人置けばよい」とは言っていない。
出力を人間が承認するときには、自動化バイアスに流されないよう、承認する理由を自分で考えてから承認すべきだ、とまで踏み込んでいる。
人を介在させること自体が目的ではない。
判断が、意味のある場所に、意味のある形で置かれているか。
問われているのはそこだ。
ここから先で考えたいこと
権限を可視化することは、たしかに前進だ。
だが、本当に設計すべき対象は、権限そのものではない。
権限が生まれる手前の構造、つまり「判断がどこで、誰によって下されるか」という配置のほうだ。
この配置を設計の対象として扱う考え方を、ここではDecision Design(判断の設計) と呼ぶ。
Decision Designは、判断という行為そのものを設計の対象に置く。
その中心にあるのが、Decision Boundary(判断の境界) という概念である。
誰が決めるのか。
どこまでをAIに任せ、どこからを人間が引き受けるのか。
その線を、無自覚のまま放置せず、意図的に引く。
それがDecision Designだ。
以降のパートでは、このDecision DesignとDecision Boundaryを具体的に扱う。権限を可視化したその下に、設計されるべき判断の構造があること。
そして、それがHITLやRACIの言い換えではないこと。
そこを順に解いていく。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。