Insynergy

AIに「判断」させ、RPAに「実行」させる。その線は、誰が引くのか。

topic: AI agents, RPA, judgment automation, AI governance, Decision Design concepts: AI agent RPA judgment automation humanintheloop AI governance Decision Design Decision Boundary…

最近、こういう言説をよく目にする。

「生成AIがRPAの弱点を補う。AIに判断させ、RPAに実行させれば、非定型業務も自動化できる」

間違いではない。技術的な事実として、生成AIはRPAが苦手としてきた非定型業務の処理に力を発揮する。メールの内容を読み取り、書類の意図を推定し、次の処理を決める。RPAはその結果を受け取り、システムを操作する。組み合わせれば確かに、これまで手が届かなかった業務プロセスの自動化が視野に入ってくる。

ただ、この説明を聞いたとき、何かが引っかかった。

「AIに判断させ、RPAに実行させる」という言葉の滑らかさが、少し気になった。

生成AIは"判断"をしているのか

まず、ここを整理したい。

生成AIが実際にやっていることは、厳密に言えば「判断」ではない。分類、要約、抽出、そして確率的な推定だ。大量のテキストから学習したパターンをもとに、「このケースはこの出力が高確率で適切だろう」と計算している。

それを人間が読めば、判断に見える。判断のように振る舞う。だが、その内側では「判断した理由」は存在しない。根拠の構造ではなく、パターンの確率だ。

これは生成AIの欠点を批判したいのではない。それが生成AIの仕様だ。問題は、その仕様のまま業務に接続されたとき、何が起きるか、という話だ。

接続された瞬間、それは実質的な判断になる

AIの出力が、業務フローに接続される。

RPAがその出力を受け取り、次の処理を実行する。契約書のレビュー結果をもとに承認フラグが立ち、支払い処理が走る。問い合わせの内容を分類し、対応ルートが決まり、返信が生成される。

個々のステップを見れば、AIは「分類」し、RPAは「操作」しているだけだ。だが、業務の結果から見れば、それは「誰かが何かを決め、それが実行された」という構造になっている。

つまり、判断という行為が、実質的に自動化されている。

AIが「判断した」かどうかではない。業務の文脈において、そのプロセスが「判断の機能」を担ってしまっているという事実だ。

精度の問題ではない、という視点

この話をすると、こんな反応が返ってくることがある。

「精度が上がれば問題ない」「間違いが減れば許容範囲だ」

だが、精度の問題ではない。少なくとも、それだけではない。

精度が95%であれば、5%は誤る。1000件処理すれば50件は間違いが出る。これは数字の話として受け入れられても、「どの50件が誤るのか」は事前に分からない。高リスクな案件が誤判定の50件に入る可能性は排除できない。

それよりも根本的な問題がある。「精度が高い自動判断」と「人間が行った判断」の間には、意味の違いがある。

人間が判断した場合、その判断には責任の帰属がある。なぜそう決めたのか、何を根拠にしたのか、説明可能性がある。組織内で「あの判断は誰がしたのか」という問いに答えられる。

AIと RPAが組み合わさった自動化フローに同じ問いをぶつけたとき、どう答えるのか。「システムが処理しました」では、責任の所在が宙に浮く。

「人間が承認すればいい」という単純な話でもない

では、人間の確認ステップを挟めばいいか。

多くの現場では、そういう設計になっている。AIの出力に対して、担当者が「OK」を押す。RPAが実行する。形式上、人間の判断が入っている。

だが実態を考えてほしい。

1日に200件の処理があり、AIが高精度で分類し、画面上に「承認しますか？」というボタンが並ぶ。担当者は内容を細かく確認する時間もなく、ひたすらクリックする。これは人間が判断しているのか。

いや、これは人間が「承認した」という記録を残しているだけだ。

判断の実質は、AIに委ねられている。人間の承認は、その記録の手続きにすぎない。それでも組織は「人間が最終確認している」という形式を根拠に、そのプロセスを「ガバナンスが効いている」と見做している。

これが、問題の形だ。

制度側はすでに、この違和感に反応している

こうした動きは、現場の感覚だけではない。

政府は、自律的に動くAIエージェントに対して、誤作動やプライバシー侵害のリスクを念頭に「人間の判断を必須とする仕組み」づくりを開発企業などに求める動向がある。背景には、AIエージェントが人間の介在なしに判断し実行するプロセスが、企業内に静かに広がっていることへの警戒感がある。

現場では「便利だから」「効率化できるから」という理由で自動化が進む。制度側では「待ってくれ、その判断は誰が担っているのか」という問いが立ち上がっている。

この対比は興味深い。現場と制度の間で、「判断の主体」をめぐる認識がずれている。

どちらかが正しくて、どちらかが間違っているという話ではない。それよりも、この対比が示していることがある。「AIと RPAの組み合わせによる業務自動化」は、技術的な効率化の問題である以前に、組織における判断の構造を変える問題だということだ。

問題の輪郭

整理すると、問題の形はこうなる。

生成AIとRPAの組み合わせは、業務自動化の可能性を広げる。それ自体は事実だ。だが、その過程で、組織の中に「判断の空白」が生まれる。

AIが処理し、RPAが実行する。人間はボタンを押す。しかし、「どこまでをAIに任せてよいのか」「どのような条件のときに人間が引き受けなければならないのか」「それを誰が、どの基準で決めるのか」という問いは、設計されないまま実装が進む。

問題はAIの性能ではない。AIが賢いかどうかではない。

どこまでをAIに委ね、どこからを人間が引き受けるのか。その線が設計されないまま、実務の中に埋め込まれていく。これが、問題の本質だ。

そして、この問題に対して「精度を上げる」「承認ステップを加える」という対処では、問いに答えていない。

ここまで読んで、違和感の正体が少しずつ形を持ってきたなら、それは正確な直感だと思う。

この問題には、整理のための概念がある。判断という行為を、設計の対象として扱う思想だ。

それが Decision Design（判断の設計） である。

Decision Designは、判断という行為そのものを設計対象とする思想だ。

その中心にあるのが Decision Boundary（判断の境界） という概念である。誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。その線を、無自覚のまま放置せず、意図的に設計すること。それがDecision Designである。

以降のパートでは、Decision DesignとDecision Boundaryの構造を具体的に展開する。「自動化が進む組織」が実際に設計しなければならないものは何か。その実装に向けた考え方を書く。

詳細版について

本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。

Read the original English analysis (English) →note版を開く →