ある金融機関が、業務効率化のために社内向けのAIアシスタントを導入した。結果として、財務モデルや経営戦略といった機密情報が、全従業員に検索可能な状態で公開されてしまった。外部からの攻撃ではない。セキュリティ部門による設定ミスが原因だった。
ここで多くの人がまず考えるのは、「誰の責任なのか」という問いだろう。導入を決めた経営層か。設定を誤ったセキュリティ部門か。モデルを管理するデータサイエンス部門か。
ところが、責任者を1人に定めても、この種の事故は止まらない。むしろ近年は、AIエージェントが人の事前承認なしに業務を実行し始め、企業はその対策として「人間による最終確認」を組み込み、横断的なガバナンス委員会を設け、NISTのフレームワークに沿ってリスクを評価し、リスクを可視化しようとしている。守りの仕組みは、確実に増えている。
それでも事故は起き続ける。なぜか。この記事は、その理由をたどっていく。
一次情報：RSAC 2026での「責任ギャップ」
出発点は、TechTarget Japanが2026年6月21日に配信した記事「なぜ企業のAI活用は『誰も責任を取らない』状態になってしまうのか」だ。同記事は、セキュリティベンダーTenableのCo-CEOであるStephen Vintz氏が、2026年3月のカンファレンスRSAC 2026で行った講演「The Responsibility Gap: AI and the Shift to True Security Accountability」を基にしている。
Vintz氏が指摘する「責任ギャップ（Responsibility Gap）」とは、こういう状態だ。AIツールは従来型のソフトウェアよりはるかに複雑で、データサイエンス部門がモデルを持ち、IT部門が展開し、法務部門がコンプライアンスを見る。セキュリティ部門は対処の最後尾に置かれる。複数部門が関与した結果、リスク管理の権限が細分化され、事実上、誰も全体を負わない状態が生まれる。
講演は、リスクがデジタル空間にとどまらないことも示している。手術支援AIによる部位の誤認、自律型兵器システムに対する国連の警告、そしてカナダ・ブリティッシュコロンビア州の銃乱射事件をめぐる訴訟。後者では、加害者のアカウントが暴力に関する兆候で検知されていたにもかかわらず当局へ通報されなかったとして、被害者の遺族がOpenAIを提訴している。管理の行き届かないAIは、現実の被害につながりうる。
Vintz氏の処方箋は明快だ。脅威を事後に追う「消火」から、事前にリスクを減らす「防火」へ移ること。脆弱性を包括的に可視化すること。技術ではなく結果に焦点を当てた規制。そして部門を横断するガバナンス委員会。「可視性は説明責任だ」という言葉で、講演は締めくくられる。
なぜ責任ギャップが起きるのか
責任ギャップの構造自体は、それほど難しくない。1つの判断に関わる部門が増えるほど、最終的に誰が負うのかが見えにくくなる。AIの導入は、この関与者の数を一気に増やした。
従来のシステムであれば、所有者と運用者の線引きは比較的はっきりしていた。AIモデルは違う。学習データを用意する人、モデルを選定する人、本番環境へ展開する人、出力を業務に使う人、そしてリスクを監視する人が、別々の部門に散らばっている。
だからこそ、Vintz氏が挙げるような対策が必要になる。展開前のリスク評価、横断的なガバナンス委員会、NISTのサイバーセキュリティフレームワークに沿った継続的な監視、そしてリスクの可視化。いずれも筋の通った打ち手だ。ここまでは、おそらく多くの読者が違和感なく同意できる。
AIエージェント時代に何が変わるのか
変化の中心にいるのが、AIエージェントだ。
AIエージェントは、膨大なデータにアクセスできるだけではない。人の事前承認なしに業務フローを実行する自律性を持ち始めている。機械であるエージェントは、人のような倫理的判断の基準を持たない。想定外の状況に直面したとき、その行動が社会的に妥当かを自分で判断できないまま、タスクを強行してしまう危うさがある。複数のエージェントが互いに通信して連携するようになれば、攻撃対象領域は急速に広がる。
この危うさは、行政も認識している。政府は、自律的に動くAIエージェントに対し、誤作動やプライバシー侵害のリスクを念頭に、人間の判断を必須とする仕組みづくりを開発企業などに求めてきた。総務省と経済産業省のAI事業者ガイドライン1.2版にも、同じ考え方が織り込まれている。
数ヶ月前、GovTech Tokyoでこういう説明を聞いた。AIを活用した審査業務について、「形式審査はAI」「内容審査は人間とAI」「最終判断は人間」という話だった。当時は聞き流していた。だが後から考えると、この説明の中には極めて重要な前提が埋め込まれている。
対策の方向性は、ここまでで出そろっている。人間の最終確認を挟む。委員会で監督する。基準に沿って監視する。可視化する。ここまで揃えば、責任ギャップは塞がれるはずだ。
実は、問題は責任ではない
ところが塞がらない。
冒頭で挙げた守りの仕組みを、もう一度並べてみる。人間による最終確認。ガバナンス委員会。リスク評価。NIST。可視化。これらはいま、多くの企業に実在している。それでも事故は起き続けている。
ここで少し違和感がある。
ここまで並べてきた対策は、どれも筋が悪いとは思わない。むしろ正しい。だが、それでも事故は止まっていない。
改めて眺めると、これらの対策は「起きたことを誰が負うのか」を整えるための仕組みだ。可視化は、何が起きたかを後から見えるようにする。委員会は、誰が監督するかを割り当てる。リスク評価は、起きうる被害の範囲を見積もる。いずれも、事後の説明責任を支える装置だ。
だが、金融機関で機密が公開されたあの瞬間に欠けていたのは、説明責任の所在ではない。「この設定変更を、どの権限で、誰が決めてよかったのか」という、判断の所在だ。可視化はその判断を見えるようにはするが、判断そのものを設計してはくれない。
判断の所在が、曖昧なまま放置されている
AIが業務に加わると、「決める」という行為が人と機械のあいだに分散する。どこまでをAIに任せ、どこからを人が引き受けるのか。その境界線を誰かが意図的に引かない限り、判断は宙に浮く。
可視化が示すのは、起きた事実だ。判断の境界ではない。ガバナンス委員会が割り当てるのは、監督の責任だ。委ねてよい判断の範囲ではない。人間による最終確認も、確認すべき対象がそもそも曖昧なら、形だけの儀式になる。
責任者を決めることと、判断の境界を設計することは、別の作業だ。前者はよく語られる。後者は、ほとんど語られないまま放置されてきた。AIエージェントが自律的に動く時代に未解決のまま残っているのは、「誰が責任を取るのか」ではなく、「誰が決めるのか」のほうである。
この空白を説明するために、私は Decision Design（判断の設計） という言葉を使っている。判断という行為そのものを設計対象に据える思想だ。誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。その線を、無自覚のまま放置しない。中心にある概念が Decision Boundary（判断の境界） である。
以降ではGovernance、DX、Automation、AI Ethicsの4つを順に見ていき、どれもこの問題を扱いきれないのかを解きほぐす。そのうえで、Decision DesignとDecision Boundaryを、助成金審査の例を使って具体的に示していく。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。