あるサブスクリプション型サービスを想像してほしい。土曜日の朝、管理画面に一件の返金処理が記録された。顧客からの問い合わせを読み、契約情報と利用履歴を照合し、返金を実行したのはAIエージェントだった。金額は社内規定の範囲内で、処理にも誤りはない。
週明け、上長が「なぜ返金したのか」と尋ねた。担当チームは即答できない。システムには実行結果だけがあり、AIが参照した情報も、比較した選択肢も残っていなかった。「誰の判断として説明するのか」という問いに、組織は答えを持っていなかった。
この記事が扱うのは、この「答えられなさ」である。AIを業務に入れるとき、本当に変わるのは処理の速さだけではない。これまで人間が行っていた判断が、少しずつAIの側へ移っていく。その移動を設計しないまま自律性だけを高めると、冒頭のような場面が生まれる。以下では、シンガポール企業の最新調査と日本政府のガイドラインを手がかりに、この問題の正体を明らかにしていく。
「回答する道具」から「結果を発生させる主体」へ
数年前まで、業務におけるAIの役割は限定的だった。文章を要約し、下書きを作り、問い合わせの分類を提案する。最終的にボタンを押すのは人間であり、AIは「回答する道具」にとどまっていた。
いま、AIエージェントは外部システムを操作し、返金、値引き、契約変更、アカウント停止まで実行し始めている。人間が最後に確認しなければ、AIの出力はそのまま現実の取引になる。AIは「回答する道具」から「結果を発生させる実行者」へ変わりつつある。ここでいう実行者は、法的・道徳的な責任主体という意味ではない。だからこそ、結果を組織内の誰が引き受けるかが問題になる。
この変化は、効率化という言葉だけでは説明しきれない。速く処理できるようになったのではなく、これまで人間が担っていた判断の一部が、AIへ委ねられ始めている。冒頭の返金は、その一例にすぎない。
シンガポール企業が直面している「autonomy paradox」
こうした変化を映す調査がある。IT Brief Australiaが2026年7月6日に報じた、IT企業Insightによる調査である。対象は、従業員100人以上の組織に所属するシンガポールのビジネス意思決定者220人と、オーストラリアの318人だった。Insightは公式サイトで、同じテーマを扱う調査レポート「Assistance to Autonomy」を公開している。また、同じ調査対象数を記載したARNの報道は、これらの結果が同レポートに基づくものだと説明している。ただし、IT Briefの記事自体にはレポート名が明記されていないため、以下の数値はIT Briefの報道に基づいて紹介する。
IT Briefが紹介したInsightの調査によると、シンガポール企業の37%がAIを複数の部門へ展開しており、14%は業務にAIを全面的に組み込んでいる。AI施策で中程度から強いROIを得ていると答えた企業は、シンガポールで55%、オーストラリアで41%だった。導入の速さでも成果でも、シンガポールが先行している構図が見える。
一方で、同じ調査は不安の広がりも示している。自律的なAIの導入に「非常に準備できている」と答えたシンガポールのリーダーは20%にとどまり、およそ40%は「ある程度」という段階だった。導入の障壁としては、レガシーシステムとの統合を挙げた回答が33%で最も多く、コストやインフラの制約が25%で続く。そして高リスクの場面になると、シンガポールの意思決定者の半数がAIへの信頼を低下させると答えている。
Insightは、この状態を「autonomy paradox（自律性のパラドックス）」と呼ぶ。企業は十分な準備を待たずにAIへの委任を広げ、その後を追うように監督・信頼・統制の仕組みを整えている。
「導入が進み、ガバナンスが遅れている」で終わらせない
この調査は、「AI導入が進む一方でガバナンスが遅れている」という一文に要約されやすい。実際、報道の見出しもその線で書かれている。だが、この読み方はまだ表面をなぞっているにすぎない。
ガバナンスが「遅れている」と言うとき、多くの人はルールや承認体制の整備が導入のスピードに追いついていない状態を思い浮かべる。だとすれば解決策は、方針を定め、統制を強め、監督を増やすことになる。しかし、それだけでは冒頭の返金の問題は解けない。あの場面で欠けていたのは、返金を禁じるルールではなかった。金額は規定内で、ルール上は問題がなかった。欠けていたのは、この種の判断をAIに委ねてよいのか、委ねるとしてどこまでか、その線を誰も引いていなかったことである。
本当の論点は、判断の移動にある。これまで暗黙に人間が担っていた判断が、設計されないままAIへ渡っていく。何をAIに決めさせ、何を人間が決めるのか。誰が承認し、誰が結果を引き受けるのか。この境界を具体化しないまま自律性だけが上がることが、「autonomy paradox」の実務的な中身である。ガバナンス方針を掲げるだけでは、個別の判断境界は決まらない。
日本政府のガイドラインにも同じ問題意識がある
同じ論点は、日本政府の文書にも見える。総務省と経済産業省が2026年3月31日に公表した「AI事業者ガイドライン（第1.2版）」は、AIエージェントの自律的な動作や、外部システムと連携して結果を生む利用例を新たに扱っている。
これは法的拘束力を持つ規制ではなく、事業者が自主的に取り組むための指針だ。そのうえで、別添1の19ページ（脚注13）は、AIエージェントの自律性が高まるにつれ、「人間による監視のみ」では高速なAI間相互作用への対応が困難になり得ると指摘し、AIシステム間の相互監視など、新たな安全確保策の検討が期待されるとしている。また別添5の175ページは、AIの出力を個人や集団の評価に使う場合、自動化バイアスを踏まえた「人間による合理的な判断」のもと、評価対象者から求められた際に説明責任を果たすことを求めている。また別添5の175ページは、AIの出力を個人や集団の評価に使う場合、自動化バイアスを踏まえた「人間による合理的な判断」のもと、評価対象者から求められた際に説明責任を果たすことを求めている。
つまり、政府がAIエージェント全般に一律の人間承認を義務づけているわけではない。人間を入れれば安全とも限らない。用途とリスクに応じて、最終判断、監視、記録、停止の仕組みを組み合わせる必要がある。シンガポールの調査と日本のガイドラインは、別の資料でありながら、委任の拡大に見合う設計が要るという一点で重なる。
あなたの組織では、いま誰が決めているのか
ここで一度、自社に目を向けてみたい。すでにAIツールを業務に入れている組織なら、次の問いを立てられる。いま、どの判断がAIに委ねられているのか。その判断を、誰が承認しているのか。問題が起きたとき、経緯をたどって説明できるのか。
多くの現場では、AI導入が「どのツールで、どの業務を効率化するか」という単位で進む。「どの判断を、どこまで委ねるか」は運用に溶け込み、明示的な設計対象になりにくい。冒頭の想定事例で説明できなかったのも、担当者の怠慢ではない。委ねる判断の境界を、誰も設計していなかったからだ。
次に明らかにすること
ここまでで、問題の輪郭は見えてきた。AI時代の企業に足りないのは、AIの能力でも、AIを縛るルールの数でもない。人間とAIの間にある判断の境界が、設計されていないことである。
では、その境界をどう設計すればよいのか。以下のパートでは、次の点を具体的に扱う。第一に、なぜGovernance、DX、Automation、AI Ethicsといった既存の枠組みだけでは、この境界まで決まらないのか。第二に、判断そのものを設計対象とする「Decision Design（判断の設計）」とは、何を設計する考え方なのか。第三に、その中心にある「Decision Boundary（判断の境界）」を、実務でどのように引くのか。第四に、AIへ任せる判断と、人間が引き受ける判断を、どの軸で分けるのか。そして最後に、冒頭で挙げた顧客対応AIの事例に対して、Decision Inventory（判断の棚卸し）やBoundary Matrix（判断の分類表）、Decision Log（判断の記録）といった、自社で試せる具体的な設計方法を示す。
上記のパートで生まれた「誰が決めているのか」という問いに、次で正面から答えていく。
本稿では、その設計思想をDecision Design（判断の設計）と呼ぶ。
Decision Designは、判断という行為そのものを設計対象とする思想だ。
その中心にあるのが、Decision Boundary（判断の境界）という概念である。
誰が決めるのか。
どこまでを任せ、どこからを引き受けるのか。
その線を、無自覚のまま放置せず、意図的に引くこと。
この線を設計し続けることが、Decision Designである。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。