by Ryoji Morii / Insynergy Inc.
導入部分
SMBCグループのAI導入事例が、また一つ興味深い記事になった。2026年3月末、SBクリエイティブ系メディア「FinTech Journal」に掲載されたSMBCグループのAI導入に関するインタビュー記事である。読み物として面白いだけでなく、この記事はAI導入における構造的な問題を、意図せず正確に描き出している。ただし、その構造を「現場の不安」という言葉のまま受け取ってしまうと、本質を見誤る。現場が感じている不安は、感情の問題ではない。制度と責任の問題だ。
現場は「不安」なのではなく、「引き受け先が設計されていない」のだ
AI導入の壁は「精度」ではなかった
SMBCグループは、生成AI活用に向けて3年間で500億円の投資枠を設定し、全グループ員が利用できる社内汎用チャットツール「SMBC-GAI」を全行展開している。AIへの組織的なコミットメントという点では、国内の金融機関のなかでも際立った先行事例だ。
それでも、現場は動きにくい。
FinTech Journalの記事を起点に考えると、AI導入の障壁が「精度」だけではないことが見えてくる。AIの回答精度がどれほど高くても、現場の担当者が「これをそのまま使っていいのか」と判断できない状況では、ツールは使われない。あるいは使われたとしても、その出力を全員が手動で確認するという二重作業が発生する。
これは偶発的な現象ではない。構造の問題だ。
SMBCの事例でも、生成AIの回答を活用する際には「利用者自身がAIの回答の正確性や妥当性を確認した上で利用することが不可欠」とされている（三井住友銀行が2023年に改訂した社内AIガイドラインの趣旨。担当者の複数の公開インタビューで言及）。これ自体は正しい姿勢だ。しかしこの一文が、現場に対して何を意味するかを考えてほしい。
「確認してください」というルールはある。「誰が、何を基準に、どこまで確認するのか」という設計はない。
再確認が増えるという逆説
AI導入後、むしろ人間の作業時間が増えるという現象は、金融機関に限らず多くの組織で起きている。AIが出した出力を人間がチェックし、その結果をまた別の担当者が確認し、最終的には上長が承認する――という新しい工程が生まれるからだ。
導入前のフローは「人が処理する」だった。導入後のフローは「AIが処理し、人が確認し、人が判断する」になる。後者は明らかに工程数が増えている。
なぜこうなるのか。AIが「提案」を出せるようになった一方で、「その提案を誰が引き受けるか」の構造が変わっていないからだ。人間がやっていた作業をAIに移したが、最終的な責任の置き場所は変わっていない。それどころか、AIが関与した分だけ「確認義務」が増えた、という解釈が現場に広がる。
フォールスネガティブ（見逃し）とフォールスポジティブ（誤検知）の蓄積を通じて「どこまで任せられるか」の閾値を見つけていく、というアプローチがAI導入の実務でよく語られる。これ自体は合理的な発想だ。しかし、その閾値をどの単位で、誰が、どの基準で管理するのかが設計されていなければ、経験は蓄積されない。個人の体感として消費されるだけだ。
「人を残す」ことと「人が判断している」ことは別だ
ここに、多くの組織が見落としている重大な区別がある。
「AIに任せっぱなしにはしない。最後は人間が確認する」という方針を持つ組織は多い。だが、その「最後の人間」が、実際に何を判断しているのかを問い直してほしい。
ケースA：AIが出した回答を、担当者が5秒見て「まあいいか」とスタンプを押す。
ケースB：AIが出した回答に対して、担当者が特定の条件を基準に判断し、その判断の根拠をログに残す。
どちらも「人間が最後に関与した」という事実は同じだ。しかしケースAは、事実上AIの自律判断に人間の名前が添付されただけである。
人が「残っている」ことと、人が「判断している」ことは、まったく異なる。この違いを区別せずに「人間中心」を語っても、制度設計としては意味をなさない。
オペレーションと戦略で、役割分担の構造が違う
AI導入の議論で見落とされがちな点として、オペレーション業務と戦略業務では、人間とAIの役割分担の構造が根本的に異なる、という事実がある。
オペレーション業務――たとえばコールセンターの照会対応、書類の形式チェック、与信の事前スクリーニング――では、AIは「候補の絞り込み」や「定型判断の代替」として機能しやすい。ここでは判断の境界が比較的明確に引きやすく、AIに任せる範囲を定義する条件設計が可能だ。
一方、戦略業務――リスク評価の最終判断、顧客への政策的な対応方針、組織の意思決定――においては、AIは補助情報の提示に留まる。ここで問われるのは、AIの出力をどう「読むか」ではなく、誰が何を根拠に最終判断を引き受けるか、だ。
SMBCグループのAI展開が示すように、そしてAI導入に取り組む組織のリーダーたちが実感しつつあるように、リーダーに求められるのは「AIをどう使うか」よりも「エンド・トゥ・エンドでプロセスを再設計する力」だ。これは正確な認識だ。しかし「プロセスの再設計」は、フローチャートを書き直すことではない。判断の構造を設計することだ。
誰が、どの局面で、どの権限において、何を引き受けるか。
この問いに答えのないまま、ツールだけが入ってくる。
政府の「人間必須」要件が突きつけるもの
こうした現場の混乱を背景に、政府レベルでも対応の必要性が認識されている。
総務省・経済産業省が2025年3月28日に公表した「AI事業者ガイドライン 第1.1版」では、自律的に動くAIエージェントの登場に伴うリスクの複雑化・深刻化が明示されており、AIの安全安心な活用に向けてガバナンスの構築と説明責任の確保が求められている。実質的には、AIエージェントが自律的に動作する場面において、開発企業を含む事業者に対して「人間の判断を必須とする仕組み」を設けることへの要請が強まっている。
しかしここで、慎重に考えなければならない論点がある。
「人間の判断を必須にする」という要件は、正しい方向性だ。問題は、その「人間の判断」の置き方そのものが設計されていなければ、要件を満たしたことにはならない、という点だ。
「最後に人間が確認することになっている」は、制度要件を満たすかもしれない。しかしそれが実態を伴わない形式的な関与であれば、責任の所在は曖昧なままだ。誰かが「確認した」という記録は残るが、「何を判断したか」は残らない。
これは制度設計の問題であると同時に、組織設計の問題だ。
「現場の不安」の正体
ここまで整理すると、「現場の不安」の正体が見えてくる。
現場の担当者は、AIを怖がっているわけではない。むしろ多くの場合、AIのアウトプットの有用性は認識している。彼らが感じているのは、「この判断を自分が引き受けてよいのか、引き受けた場合に何が問われるのかが、どこにも書かれていない」という感覚だ。
責任の置き場所が設計されていない。承認の根拠が言語化されていない。エスカレーションの条件が定義されていない。自分がどの範囲の権限で動いているのかが不明確だ。
これは心理的な抵抗ではなく、制度的な欠陥だ。
DXとは何だったか。Automationとは何を変えたか。AI Governanceとは何を対象にしているか。AI ethicsとは何を問うているか。
これらのどれもが、部分的には正しい問いを扱っている。しかしいずれも、この核心部分を正面から扱えていない。「誰が、どこで、何を、どの権限で引き受けるか」という、判断責任の構造設計を。
静かな予告
SMBCグループのAI導入事例が本当に見せているのは、導入論ではないように思う。
ツールの善し悪し、モデルの精度、推進体制の有無。そういった話ではなく、もっと根本にある問いが浮かび上がっている。「判断という行為を、誰がどのように引き受けるか」という問いだ。
AI導入が本格化するにつれて、この問いは避けられなくなる。フォールスネガティブが訴訟になったとき、エスカレーションが機能しなかったとき、AIの推奨が現場の判断を実質的に上書きしていたことが後から発覚したとき、問われるのはこの設計の有無だ。
その構造をどう設計するかを考えるための言葉が、必要になる。
それが Decision Design（判断の設計） である。
Decision Designは、判断という行為そのものを設計対象とする思想だ。その中心にあるのが Decision Boundary（判断の境界） という概念である。誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。その線を、無自覚のまま放置せず、意図的に設計すること。それがDecision Designである。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。