AIガバナンスは「文化」で決まるのか

AIは、もう特別な技術ではない。資料を要約し、データを分析し、文章を下書きする。多くの組織で、AIは日々の業務に溶け込みつつある。このときに問われるのは、「AIをどう導入するか」ではない。「AIをどう使いこなすか」である。この問いに示唆を与える記事がある。…

AIは、もう特別な技術ではない。
資料を要約し、データを分析し、文章を下書きする。多くの組織で、AIは日々の業務に溶け込みつつある。

このときに問われるのは、「AIをどう導入するか」ではない。「AIをどう使いこなすか」である。

この問いに示唆を与える記事がある。コンプライアンス教育を手がけるLRNが公開した AI governance needs more than policies: Why culture will determine success だ。ICAとLRNが共催したマスタークラス（Managing Risk, Culture and Behaviour in the Age of AI）の議論をまとめたもので、結論は明快だった。技術的な統制だけでは足りない。AI時代を生き残るのは、最先端の技術を持つ組織ではなく、それを使いこなす文化を持つ組織である、と。

LRNが整理した6つの論点

LRNの記事は、AIガバナンスを技術の問題から文化の問題へと引き上げる。要点は次の6つに整理できる。

AI Governance（ガバナンス）：AIの導入速度に、統治の仕組みが追いついていない。多くの組織でAIはすでに業務に埋め込まれているのに、ガバナンスの枠組みは未成熟なままだ。
Shadow AI（シャドーAI）：承認も研修もないまま、従業員が個人の判断で公開AIを使い始める。悪意ではなく、効率を求めた結果だ。だが機密情報、知的財産、個人データの流出というリスクを生む。記事の言葉を借りれば、「見えないAIは統治できない（You cannot govern AI that you cannot see）」。
Culture（文化）：規則はすべての場面を予見できない。最後に効くのは、「これは正確か」「これは適切か」と従業員が反射的に問う文化である。
Critical Thinking（批判的思考）：最大のリスクはハルシネーションではない。出力が説得的に見えるために、人が疑うのをやめてしまうことだ。
AI Agent（AIエージェント）：自律的に動くAIは、ソフトウェアではなく「新しい同僚」として扱うべきだ。オンボーディングし、価値観を伝え、評価する対象として接する。
Leadership（リーダーシップ）：経営者がAIをコスト削減の道具として語れば、現場は身構える。能力を高める道具として語れば、責任ある利用が進む。

どれも正しい。私はこの主張に異論を持たない。

主張は正しい。それでも残る違和感

文化は重要だ。倫理も重要だ。AIリテラシーも重要だ。
LRNの整理に、付け加えるべきことはほとんどない。

それでも、経営の現場に立つと、ひとつの違和感が残る。
これらはすべて、「どう構えるか」を語っている。
しかし現場が本当に知りたいのは、「誰が、どこで、何を決めるのか」だ。
文化があっても、その問いに答えが出るとは限らない。

「誰が決めるのか」という問い

具体的に考えてみる。
ある企業が、中途採用の選考にAIを導入したとする。

AIは応募書類の不備を確認し（書類選考）、職務経歴と求める要件の適合度を分析し（適性分析）、面接に進める候補者を推薦するところまでを担う。
ここまでは、文化でもリテラシーでも説明がつく。採用担当者がAIの出力を鵜呑みにせず、「これは適切か」と問う姿勢があればよい。

だが、最後にひとつの問いが残る。
この候補者を採用すると、誰が決めるのか。
AIの推薦にそのまま従うのか。担当者が覆せるのか。覆せるとして、どの段階で、誰の責任で覆すのか。

この問いは、文化の問題ではない。設計の問題だ。
結局これは、AIと人間の境界をどこに引くか、という問いに行き着く。

どれだけ批判的思考を備えた担当者でも、「自分にどこまでの裁量があるのか」が決まっていなければ、覆すことも、AIに従うことも、確信を持っては選べない。
文化は、人を「問える状態」にする。
だが、その問いを「どこで、誰が引き受けるか」までは決めてくれない。

Governanceでも、この問いは解けない

ここで、AI Governanceに戻ってみる。
ガバナンスは、利用規程を定め、責任部署を置き、監査の仕組みを作る。組織にとって欠かせない土台だ。

ただし、ガバナンスが扱う単位は「組織」である。
組織として制度をどう整え、どう統治するか、という枠組みであって、ひとつひとつの判断をどこで誰が引き受けるか、という単位までは降りてこない。

だから、ガバナンスは「採用選考にAIを使ってよい」とは決められる。
だが「この候補者を採用するかどうかを、AIのどこまでに任せ、どこから人間が引き受けるか」までは、設計しない。
ガバナンスが弱いのではない。扱う単位が、組織であって判断ではない、というだけだ。

Human-in-the-Loopという答え、そして政府の動き

ここで登場するのが、Human-in-the-Loop（人間が関与する仕組み）という考え方だ。
AIだけで決めるのではなく、判断の流れのどこかに人間を残す。

この方向は、すでに政策にもなっている。
政府は、自律的に動くAIエージェントに対して、誤作動やプライバシー侵害のリスクを念頭に、「人間の判断を必須とする仕組み」づくりを開発企業などに求めている。
総務省・経済産業省の「AI事業者ガイドライン（第1.2版、2026年3月）」にも、その考え方が盛り込まれている。同版では、AIエージェントについてHuman-in-the-Loop、すなわち人間が関与する仕組みを組み込むことが求められた。

文化、ガバナンス、そしてHuman-in-the-Loop。
AI時代の統治に必要な道具は、これでひととおり揃ったように見える。

Human-in-the-Loopでも、問いは残る

しかし、それだけでは十分ではない。

人間を入れればよい、というわけではない。
問題は、どの人間が、どこで判断するのか、である。

“どこで”人間が関与するのか。
意図しない取引を実行する前か、後か。重要なデータを削除する前か、後か。
採用なら、AIが候補を絞り込む前か、絞り込んだ後か。
その一線をどこに引くかで、同じ「人間の関与」でも、まったく別の仕組みになる。

つまり、Human-in-the-Loopは「人間を入れる」とは言えても、「どこに入れるか」までは決めてくれない。
残るのは、判断の境界をどこに引くか、という問いである。

この記事には、続きがある

ここまでで、ひとつの問いが浮かび上がった。
文化でも、ガバナンスでも、Human-in-the-Loopでも、最後は同じ場所に行き着く。
誰が、どこで決めるのか。

この問いは、これまで明示的に設計されてこなかった。
なんとなく現場の運用に委ね、なんとなく担当者の裁量に委ねてきた。
だが、AIが判断の手前まで踏み込んでくる時代には、その「なんとなく」が最大のリスクになる。

この「なんとなく」を、意図に変える方法がある。
ここから先で、その考え方を説明したい。

その問いに対して、私は「判断そのものを設計する」という考え方が必要になると考えている。

それが Decision Design（判断の設計） である。

Decision Designは、判断という行為そのものを設計対象とする思想だ。
その中心にあるのが Decision Boundary（判断の境界） という概念である。

誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。
その線を、無自覚のまま放置せず、意図的に設計すること。
それが Decision Design である。

詳細版について

本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。