AIが仕事を奪う。AIが暴走する。AIが平然と嘘をつく。この1年、こうした見出しを数えきれないほど見てきた。英フィナンシャル・タイムズのマーティン・ウルフが2026年6月17日に書いた論考も、見出しだけを追えば同じ棚に並ぶ。題は「我々はAI革命を管理しなければならない」。AIがもたらしかねない人類の存亡に関わるショックに、文明は備えよ、という警告である。
ただ、ここで取り上げたいのはAIの危険性そのものではない。ウルフの論考には、多くの読者が読み飛ばすであろう一文が挟まっている。経営者が本当に向き合うべき問題は、その一文の側にある。
マーティン・ウルフが書いたこと
フィナンシャル・タイムズのマーティン・ウルフは、AIが大きな機会と大きな危険の両方をもたらすと整理する。その危険には、説明責任、法の支配、民主主義、そして人間とは何かという基本的な価値観を揺らすものまで含まれる。
雇用への影響についての見立ては、専門家の間でも割れている。国際労働機関（ILO）は、世界の勤労者の4人に1人が生成AIから何らかの影響を受ける職業に就いていると推計する一方、影響が最も強いカテゴリーに属するのは3.3％にとどまるとも付け加えた。これだけ見れば、大混乱には見えない。
一方、テクノロジー投資家のビノッド・コースラはフィナンシャル・タイムズの記事で、人間が行う経済的に価値のある仕事の80％はいずれAIが担うと述べている。コースラの関心は失業が起きるか否かではない。それが起きたとき、一貫した政策の枠組みを用意できているかどうかにある。
ウルフはコースラの問題意識を引き取り、こう書く。不確実性があるときに正当化されるのは備えであって、油断ではない、と。
アンソロピックの発言が示したもの
論考のなかで、ウルフはアンソロピックの投稿を引いている。同社は、AIの開発をAIシステム自体に任せる割合を増やしていると述べ、十分な演算能力があれば、AIが自分の後継を自律的に設計・開発できる時が来ると予測した。さらに、もし開発のペースを緩められるなら、その計り知れない影響に対処する時間を確保できる点で良いことだ、とも書いている。
開発を牽引する当事者が、先に待つものを警戒している。この発言は確かに重い。
ただし、ここで立ち止まりたい。多くの人はこの一節を「AIが賢くなりすぎる恐怖」として受け取る。能力の話、速度の話として読む。だが経営の現場で効いてくるのは、能力そのものではない。賢くなったAIが、組織の意思決定の列に並び始めることのほうだ。
問題はAIが何をできるかではなく、AIが決めたことを、誰の決定として扱うのかにある。
「人間が責任を取る」という一文への違和感
ウルフは続けて、はっきりと書いている。機械が下した決定であっても、最終的には人間が責任を取らなければならない、と。そして責任を負う人間として、3者を名指しする。AIのプログラマー、AIを販売する企業の管理職、そしてそのAIを使用する機関の意思決定者である。アルゼンチン大統領ハビエル・ミレイの見解とは逆に、人が説明責任を果たさないままAIが組織を運営することなどあってはならない、とも述べる。
この主張は、正しく、まっとうに聞こえる。誰も反論しにくい。
だからこそ、少し長くこの文の前に座ってみてほしい。ウルフは3者を挙げた。3者はそれぞれ別の組織に属している。開発した者、売った者、使った者。では、あなたの会社のなかで、AIエージェントが見積もりを書き換え、与信の閾値をまたぎ、顧客への回答を確定させたとき、あなたはこの3者のどれにあたるのか。
そして社内に視点を移すと、問いはもう一段細かくなる。「使用する機関の意思決定者」とは、具体的に誰のことなのか。承認ボタンを押した担当者なのか。そのエージェントを業務に組み込むと決めた部長なのか。そもそもAIを使うと判断した経営層なのか。
この問いに、ウルフの論考は答えていない。答える必要がなかった、とも言える。彼が書いたのは「人間が責任を取るべきだ」という当為であって、「どの人間が、どこで責任を引き受けるのか」という配置ではないからだ。
ここで重要なのは、責任の問題を議論しているようでいて、実際には権限の問題を議論していることだ。責任は結果の後で問われる。しかし権限は結果の前に配置される。誰が責任を負うのかという問いは、結局のところ、誰がその判断を行う権限を持っていたのかという問いへ帰着する。だからAI時代の本質的な問題は、責任者探しではない。判断権限の配置そのものなのである。
AI規制だけでは、この問いは閉じない
ウルフの処方箋は明快だ。AI制作者の道徳観念や自制心を当てにしてはならない。医薬品を適切な臨床試験なしに販売させないのと同じ仕組みを、AIソフトウエアにも適用すべきだ。競争の激しい産業だからこそ、その試験制度は全世界に適用される必要がある。
日本でも、似た方向の整備は進んでいる。総務省と経済産業省は2026年3月31日、AI事業者ガイドライン第1.2版を公表した。ここで初めてAIエージェントとフィジカルAIが対象として明示され、自律的に動作するこれらのAIについては、人間の判断を介在させる仕組みを構築することが重要だと整理された。権限の適切な設定、人間の判断の適切な介在、操作履歴の定期的な確認。いずれも、自律的に動くAIに対して国が求め始めた留意点である。誤作動やプライバシー侵害のリスクが念頭にある。
規制も、ガイドラインも、必要なものだ。否定する理由はない。
ただ、ここに見落とされやすい前提がある。「人間の判断を介在させる」という要請は、どの人間を、どの工程に、どんな権限とともに置くのかが、すでに決まっていることを暗黙のうちに想定している。規制は「人を置け」と言う。だが、その人がどこに立つのかまでは決めてくれない。
本当に問われ始めていること
整理すると、問題はこう移っていく。
AIは安全か。これはAIリスクの問いだ。
ループのどこかに人間がいるか。これはHuman-in-the-Loopの問いだ。
そして、その人間は本当に決められる位置にいたのか。これが、いま組織に突きつけられている問いである。
人を1人ループに置けば責任が回復する、というのは錯覚に近い。承認の権限がなく、拒否する現実的な余地もない担当者が、形式として承認ボタンを押しているだけなら、責任の所在は明確になっていない。むしろ、押した人に責任が転嫁されるぶん、事態は悪くなることすらある。
人間を置くことと、判断の権限をその人間に持たせることは、別の作業だ。前者は組織図に椅子を1つ足すだけで済む。後者は、誰がどこまで決め、どこから先は別の誰かが引き受けるのか、という線を引く作業を要する。
ウルフが名指しした「責任を取る人間」は、この線が引かれて初めて、責任を取れる人間になる。
この空白を説明するために、私は Decision Design（判断の設計） という言葉を使っている。判断という行為そのものを設計対象に据える思想だ。誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。その線を、無自覚のまま放置しない。中心にある概念が Decision Boundary（判断の境界） である。
以降では、Governance、DX、Automation、AI Ethicsの4つを順に見ていき、なぜ、どれも判断主体の設計には届かないのかを解きほぐす。そのうえでDecision DesignとDecision Boundaryを、AIエージェントによる契約変更の例を使って具体的に示していく。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。