AIが経費を「承認」する時代に、私たちが見落としているもの
ある老舗パッケージメーカーが、AIによる経費精算の自動承認を始めた。
従業員が申請した内容を、AIがチェックする。社内規定に反していないか。領収書の添付漏れはないか。経費科目や日付に誤りはないか。問題がなければAIが一次承認を行い、不備があれば差し戻す。理由のコメントも付く。
毎月16時間かかっていた承認作業が、2時間で完結するようになったという。年間で約170時間の工数削減。数字だけ見れば、これは見事な効率化の成功事例だ。
だが、この話の本質は「効率化」にはない。
規定をMarkdownに変換するという行為
この企業がAI導入にあたって行ったことのひとつに、社内の経費精算規定や旅費規定をMarkdown記法に変換してAIに学習させた、という工程がある。
たとえば「遠方への移動は出張費、近隣であれば交通費」といった条件分岐を、AIが解釈しやすい構造に書き換えた。
一見すると、これは技術的な前処理にすぎない。だが少し立ち止まって考えてほしい。
規定をMarkdownに変換するとは、何をしていることなのか。Markdownに変換されたのは規定ではない。形式化されたのは「AIに委ねてよい判断の範囲」だった。
それは、これまで人間の頭の中にあった「判断の基準」を、外部に取り出し、構造化し、機械が読める形式に翻訳するという行為だ。つまりこの企業は、業務を自動化したのではない。判断を移転したのだ。
従来、経理担当者が「職人技」でこなしていたという承認作業。金額の正誤や不正の有無をチェックする一方で、経費区分の精度は部門ごとにばらつきがあった。暗黙知として属人化していた判断基準が、Markdownという形式を通じて初めて可視化された。
ここに、この話の本当の論点がある。
「何を人間がやるべきか」という問い
この事例を報じた記事の中で、ある執行役員がこう述べている。
「経営陣が3〜5年後の全体設計を描き直すことも欠かせない」
「これまで以上に現場も含め何を人間がやるべきなのか考えて設計しなくてはいけない」
この発言は、単なる経営方針の表明ではない。ここには、自動化の議論では捉えきれない、もうひとつの問いが含まれている。
それは——
これは「業務設計」の話なのか。それとも「判断設計」の話なのか。
業務設計であれば、答えは明快だ。どの作業をAIに任せ、どの作業を人間が行うか。タスクの配分を決めればいい。
だが「何を人間がやるべきか」という問いは、タスクの話をしていない。判断の話をしている。誰が、何について、どの範囲まで判断するのか。その構造をどう設計するのか。
多くの企業が「バックオフィスの無人化」を目指している。だが無人化とは、人がいなくなることではない。人間が担う判断の質と範囲が変わることだ。その変化を設計しないまま自動化だけを進めれば、判断の所在は曖昧になり、責任の空白が生まれる。
既存の枠組みでは、なぜ足りないのか
この問いに対して、既存の概念はどこまで応えられるだろうか。順に見ていく。
Governance（統治） は、組織の意思決定プロセスを統制する枠組みだ。取締役会の構成、内部統制の設計、監査体制の構築。いずれも重要であり、組織運営の基盤でもある。だがGovernanceが扱うのは「誰が権限を持つか」であり、「AIと人間の間で判断をどう分割するか」ではない。
AIが一次承認を行い、人間が最終判断を担う。その構造を作ったとき、AIの判断が誤っていた場合の責任は誰にあるのか。AIの判断をそのまま追認した人間に責任があるのか。それとも、AIにその判断を委ねると設計した人間にあるのか。こうした境界線の設計は、Governanceの射程に入っていない。Governanceは「権限の配置」を扱うが、「判断の境界の設計」は扱わない。
DX（デジタルトランスフォーメーション） は、デジタル技術を用いた事業変革を指す。紙をなくし、手作業をなくし、データを統合する。多くの企業がDXの旗印のもとにバックオフィスの改革を進めている。だがDXが問うのは「何をデジタル化するか」であり、「デジタル化によって判断構造がどう変わるか」ではない。
経費精算をSaaSに移行し、AIに承認を任せること自体はDXの成果だ。だがその結果として、経理担当者が持っていた「この部門の交際費は例年この水準」「この申請者は記載ミスが多い」といった暗黙の判断知がどこに残り、どこから消えるかは、DXの設計図には描かれない。DXは変革を推進するが、変革が引き起こす判断構造の変化には無自覚だ。
Automation（自動化） は、人手による作業を機械に置き換えることだ。RPAやSaaS、AIエージェントの導入。いずれも「作業の代替」を目的とする。だが自動化が扱うのは「作業の代替」であり、「判断の代替」ではない。
データ入力の自動化と、経費承認の自動化は、技術的には同じカテゴリに見える。だが前者は「転記」の代替であり、後者は「判断」の委譲だ。AIが承認するとは、作業を自動化したのではなく、判断を移転したということだ。移転した判断の範囲はどこまでか。移転の条件は何か。判断が誤った場合のフォールバックはどう設計するか。こうした問いに対する設計概念が、Automationには存在しない。
AI Ethics（AI倫理） は、AIの開発・運用における倫理的課題を扱う。公平性、透明性、説明可能性。重要な議論であり、AI社会の基盤となる思想だ。だがAI Ethicsが問うのは「AIが何をすべきでないか」であり、「人間が何を手放してはいけないか」ではない。
経費承認のAI化には、差別や偏見の問題はほとんど発生しない。だが、判断の境界が曖昧なまま運用され、いつの間にか人間が形式的にボタンを押すだけの存在になっているリスクは確実に存在する。組織から判断力が静かに失われていくプロセス。そのリスクは、AI Ethicsの枠組みでは捕捉できない。
整理すると、こうなる。
Governanceは権限を扱うが、境界を設計しない。
DXは変革を推進するが、判断の移転を問わない。
Automationは作業を代替するが、判断の委譲を定義しない。
AI Ethicsは禁止線を引くが、責任の配分を設計しない。
いずれも重要な概念だ。だがいずれも、「AIと人間の間で判断をどう分割し、その境界をどう設計するか」という問いには答えていない。
では、何が必要なのか。
もう一度、問いに戻ろう。
AIが経費を承認する。その判断は、誰のものなのか。AIが差し戻す。その責任は、どこに帰属するのか。規定をMarkdownに変換してAIに渡した。そのとき、判断の境界線はどこに引かれたのか。
必要なのは、権限の再配置ではない。デジタル化の推進でもない。作業の自動化でもなければ、倫理的な歯止めでもない。
必要なのは、判断そのものを設計対象とする思想だ。
AIと人間の間で、何をどこまで任せるのか。どの判断を委譲し、どの判断を引き受けるのか。その境界を、無自覚のまま放置するのではなく、意図的に設計すること。
それが Decision Design（判断の設計） である。
Decision Designは、判断という行為そのものを設計対象とする思想だ。
その中心にあるのが Decision Boundary（判断の境界） という概念である。
誰が決めるのか。
どこまでを任せ、どこからを引き受けるのか。
その線を、無自覚のまま放置せず、意図的に設計すること。
それがDecision Designである。
Decision Designとは具体的に何を設計する概念なのか。既存概念との差異はどこにあるのか。そしてDecision Boundaryをどう実装するのか。以降のパートでは、経費承認の3層Boundary設計を含む、実装レベルの設計論を展開します。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。