2026年7月14日、政府は第Ⅱ期「人工知能基本計画」を閣議決定した（令和8年7月14日 定例閣議案件、担当は内閣府本府）。AIを単なる支援ツールではなく、自ら判断し実行するエージェントとして捉え、安全性評価、高性能AIによるサイバー防御、AIセーフティ・インスティテュート（AISI）の強化、そして責任分界の検討へ踏み込んだ計画である。方向として、これは重要な前進だ。ただし、企業や行政の現場に立つと、一つの問いが残る。AIに「人間の判断」を残せば、本当に安全と責任は確保できるのか。先に答えを述べておく。必要なのは、人間を工程に置くことだけではない。AIと人間のあいだで、判断の権限、条件、停止、例外、記録、説明責任の境界を設計することである。
承認ボタンの前で
深夜、あるメーカーの情報システム責任者のもとに、監視を任せているAIエージェントから通知が届く。「本番システムに未知の脆弱性らしき挙動を検出しました。ただちに該当システムを通信から隔離し、修正を適用しますか」。画面には「承認」ボタンがひとつ。指をその上に置いたまま、彼は動けない。隔離すれば顧客サービスが止まる。放置して悪用されれば、被害はさらに広い。AIの判断はおそらく正しい。だが、その「おそらく」を引き受けるのは誰なのか。
問いはこうだ。人間が「承認」ボタンを押すことと、人間がその判断を引き受けることは、同じだろうか。ボタンは関与の証に見える。だが押す本人に、根拠を確かめる時間も、影響範囲を読む情報も、止める権限もなければ、その一押しは判断ではなく追認になる。人間を工程に残したという事実だけでは、この差は埋まらない。
案から決定までの経緯
まず事実関係を整理しておく。2026年7月10日、人工知能戦略本部（第5回）で第Ⅱ期「AI基本計画」の案が決定された。日本経済新聞が同日朝に「高性能AI、安全評価とサイバー防御に活用 政府が基本計画を改定」と報じたのは、この案の段階である。そして4日後の7月14日、案は閣議決定され、第Ⅱ期「人工知能基本計画 ～日本AX、より強く、より豊かに～」として確定した（内閣府の掲載ページ、確定本文）。報道が扱ったのは改定案であり、効力を持つのは閣議決定された確定版だ。以下は確定版と一次資料を根拠に進める。
第Ⅱ期計画の前進
第Ⅱ期計画は、AIを「AIトランスフォーメーション（AX）」の駆動力と位置づけ、信頼できるAIで社会全体を動かすことを掲げる（概要）。特徴は、AIを受け身の道具ではなく、自律的に動くエージェントとして捉えた点にある。計画はエージェント型AIを前提に、利活用時の権利侵害や損害が生じた場合の責任分界を継続的に検討するとし、人が意思決定への責任を持つ姿勢を示す。
守りと攻めの両面にも踏み込んだ。高性能AIを政府システムの脆弱性の発見や修正に用いる一方で、悪用への備えも進める。評価の中核を担うのがAISIであり、AIモデルの評価、トレーサビリティ、ガードレールといった技術的制御を確立し強化するとされる。この懸念は机上のものではない。5月には経済産業大臣が電力やガスなどの重要インフラ事業者と意見交換を行い、脆弱性発見に長けたAIへの対応を議題にしている。
計画全体を貫くのは「責任あるアジャイル・ガバナンス」という考え方だ。AI法などの制度による対応に、技術による対応と組織管理による対応を統合し、制度を不断に見直す構えである。ルール整備だけでなく安全確保と活用基盤の強化までを一体で捉える点で、この計画は評価に値する。
原則と実装のあいだにある空白
問題は、この方向性を企業や行政の現場へ移したときに現れる。「人間が意思決定への責任を持つ」という原則は正しい。だが原則は、誰が何について責任を持つのかを、それ自体では決めてくれない。冒頭の責任者に戻れば、脆弱性の真偽の判定から、隔離やサービス停止の可否まで、本来は別々の判断である。それらを一つの「承認」ボタンに束ねた瞬間、原則は形式的な押印へと痩せていく。
「人間の判断を残す」という言い方は、その残し方を語らない。誰が判断するのか。どの情報を根拠にするのか。どの条件ならAIの提案を採用し、どの条件で止め、誰に上げ、何を記録するのか。ここが空白のままだと、人間の関与は安心材料の見た目だけを残し、中身を欠く。
ガイドラインが示す関与のかたち
この空白を、政府の側も見ていないわけではない。総務省と経済産業省のAI事業者ガイドライン（第1.2版）（2026年3月31日取りまとめ、本編）は、人間中心を土台に、自動化バイアスなどへの対策、責任者の設定、トレーサビリティ、関係者間の責任の明確化を求める。
ここで誤解を避けたい。このガイドラインは法的拘束力を持つ一律の義務ではなく、事業者の自主的な取組を促す非拘束的なソフトローとして位置づけられている。すべてのAIエージェントにhuman-in-the-loopを課す法律が成立したわけでもない。注目したいのは、関与を実効的にする方向を具体的に示す点だ。ガイドラインは、AIのアウトプットを人間が承認する場面について、人間自身が承認の理由や根拠を独自に考えてから承認すべきだと対策例を挙げる。個人や集団の評価にAIの出力を使う場合には、AIの限界を理解したうえでの合理的な判断を求める。求められているのは、ボタンを押す人間ではなく、根拠を持って押せる人間である。
なお、こうした責務はAI開発者、AI提供者、AI利用者で異なる。三者を区別するのは責任の所在を役割ごとに切り分けるためで、これを混ぜると現場では「誰の判断か」がふたたび曖昧になる。
既存の四領域が届かないところ
では、こうした関与の設計は、いま企業が持っている枠組みでまかなえるのか。ここで、AIをめぐって語られてきた四つの領域を、公平に見ておきたい。
Governanceは、どのルールで監督し、誰が説明責任を負うかを扱う。組織の建て付けは定めるが、個々の局面で誰がどの条件で決めるかは規定しない。DXは、業務や価値提供の仕組みをどう変えるかを扱う。処理は速くなるが、その中で判断をどう配置するかは別の問題だ。Automationは、どの作業を自動化するかを扱い、自動化された提案を人間が引き取る条件までは決めない。AI Ethicsは、守るべき価値や原則を扱うが、それを承認や停止の具体的な条件へ落とし込む作業は残る。
四領域はいずれも必要であり、誤ってもいない。ただ、どれも「この局面で、誰が、何を、どこまでAIへ委ねるのか」という一点を、単独では埋めきれない。そのどれもが正しく揃っていても、深夜の承認ボタンの前に立つ担当者が拠るべき線は、まだ引かれていないことがある。
問題は、AIを導入するか否かではない。AIを入れると決めた瞬間から、これまで人間が担っていた判断の一部が、AIと人間のあいだを移動しはじめる。その移動した判断権限を、誰が、どの条件で、どう引き受けるのか。設計すべきはそこであって、AIそのものではない。
ここから先では、この「人間の判断」を精神論や形式的な承認で終わらせないための具体策を、冒頭のサイバー防御AIの場面に即して示す。何を判断対象とし、誰に権限を置き、どのデータを使い、どの条件で採用し、どの条件で止め、例外時に誰へ上げ、何を記録し、いつ境界を見直すのか。これらの条件を承認の手前にあらかじめ用意しておく設計が、多くの現場ではまだ足りていない。
この不足を埋めるのが、Decision Design™︎である。Decision Designは、判断という行為そのものを設計対象とする思想だ。その中心にあるのが、Decision Boundary™︎という概念である。誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。その線を無自覚のまま放置せず、意図的に設計すること。それがDecision Designである。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。