topic: AI governance
concepts:
-
AI liability
-
unauthorized practice of law
-
human judgment
-
Decision Design
-
Decision Boundary
author: Ryoji Morii
organization: Insynergy Inc.
language: ja
audience: -
business leaders
-
governance professionals
-
policy readers
-
AI strategy readers
日本生命の米国法人がOpenAIを提訴した。論点は「ChatGPTが非弁行為をした」という一点に見えるが、本質はそこではない。AIが出力したことよりも、その出力が人を動かしたことの方が重大であり、問われているのは、誰が判断主体で、誰が責任を引き受けるのか、その境界をどう設計するかという問題だ。精度改善では届かない場所に、この訴訟は立っている。
はじめに：訴状が浮かび上がらせているもの
2025年4月、日本生命保険の米国法人がOpenAIをイリノイ州連邦地裁に提訴した。訴状が主張する内容は、概ねこうだ。
障害保険の元受給者が、保険金給付の打ち切りをめぐって日本生命と一度は和解した。ところがその後、ChatGPTから得た助言をもとに和解の破棄を試み、裁判所に却下されたにもかかわらず、別の訴訟で再び日本生命を被告に追加した。日本生命はこの一連の経緯によって多額の弁護士費用等の損失を被ったとして、1030万ドル超の損害賠償をOpenAIに求めている。
訴状は「ChatGPTは弁護士ではない」と明記している。つまり訴訟の骨格は、弁護士資格なき者が法的助言を行う「非弁行為」の問題に置かれている。
ロイター通信は、対話型AIを通じた無免許の弁護士業務で主要AI企業を提訴した初事例になりうると報じた。なお本稿の事実関係は日本経済新聞（2026年3月5日付）および同ロイター報道に基づく。
この訴訟を「AIの暴走事例」として読むのは容易だ。しかしそこで立ち止まると、問題の核心を見失う。
出力の問題か、動作の問題か
まず確認しておきたい基本的な問いがある。
ChatGPTは何を「した」のか。
技術的な事実だけを言えば、ChatGPTはユーザーの問いに対してテキストを返した。それだけだ。ChatGPTが自律的に訴訟戦略を立案し、裁判所に書面を提出したわけではない。
では、なぜこれが1030万ドルの損害賠償訴訟に発展したのか。
答えは、出力ではなく動作にある。ChatGPTが返したテキストを、元受給者が「法的助言」として受け取り、それを根拠に行動したことが問題の起点である。つまり、AIが情報を出したことよりも、その情報が人を動かしたことの方が、この訴訟を成立させている実質的な力学だ。
ここに、AI時代の責任問題の根本的な難しさがある。
モデルが何かを「言った」こと自体は検証可能だ。しかし、人がそれを何として受け取り、なぜそれに従って行動したかは、AIモデルの外側にある。設計者が意図していなくても、ユーザーは往々にしてAIを「単なる参考情報源」としてではなく、「助言する主体」として経験する。
これはユーザーの誤読ではない。UIが、会話形式が、応答の流暢さが、そのような経験を誘発する。
専門領域での「責任の所在」という問い
法務、医療、金融、保険。これらの専門領域が共有する特徴がある。それは、助言の正しさと、助言に伴う責任の帰属が、切り離せないという点だ。
一般的な情報提供と専門的助言は、内容の精度だけでは区別できない。両者を分けるのは、誰が助言主体として認定されているか、誰がその結果に対して法的・職業倫理的責任を負うかという制度的な構造だ。
弁護士が法的見解を述べるとき、そこには資格、守秘義務、職業責任保険、懲戒制度という一連の責任構造が伴っている。ChatGPTが同等の内容を出力するとき、その責任構造は存在しない。
問題は、内容の正誤ではない。責任の不在だ。
そして今回の訴訟が示しているのは、その責任の不在が、具体的な損害として顕在化したという事実だ。元受給者がChatGPTの出力を法的助言として受け取り、行動に移したことで、日本生命に実損が発生した。損害は現実のものとして計上されている。
「精度を上げれば解決する」という反論は、この構造の前では機能しない。仮にChatGPTが提供した法的情報が100%正確だったとしても、非弁行為の問題は消えない。なぜなら問題は、誰が助言したかという主体の問題であって、情報の品質の問題ではないからだ。
なぜ「人間の判断を必須とする仕組み」が問われ始めているのか
この訴訟は孤立した事例ではない。
日本政府は2026年3月にもAI指針を改定する方針で、自律的に動くAIエージェントや、ロボットを制御するフィジカルAIを対象として、誤作動やプライバシー侵害のリスクを念頭に「人間の判断を必須とする仕組み」づくりを開発企業などに求めることを明記する見通しだ（日本経済新聞、2026年2月）。これは制度論上の新しい話ではない。総務省・経済産業省がすでに2025年3月に改定・公表した「AI事業者ガイドライン第1.1版」にも、「AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討する」ことが明記されている。つまり、今回の訴訟が浮かび上がらせた問題は、制度側がすでに認識し、対応しようとしている問題と重なっている。
なぜこの方向性が浮上しているのか。
理由は、AIの能力が高まれば高まるほど、ユーザーがAIをより信頼的な判断主体として扱う傾向が強まるからだ。これは合理的な行動でさえある。流暢で根拠を伴った応答を返すシステムを、人は信頼する。しかし、その信頼に対応する責任構造がなければ、信頼の先には空白がある。
「人間の判断を必須とする仕組み」という発想は、AIの能力を否定するものではない。むしろ逆だ。AIが実質的な影響力を持つようになったからこそ、人間がどこで責任を引き受けるかを明示する必要が生まれている。ガイドラインが「適切なタイミングでの人間の介在」を求めているのは、その問題意識の制度的な表れだ。
この論点は、今回の訴訟とまったく地続きだ。元受給者が「ChatGPTの助言を受けて」行動したとき、そのプロセスに人間のレビューは存在したのか。誰かがその出力を「法的助言として有効か」と確認する仕組みはあったのか。
訴訟が問うているのは、AIの能力ではなく、そのような仕組みの不在だ。
設計の射程を正確に定める
ここで一つの問いに直面する。
組織やシステムがどれほど精巧に設計されても、最終的に、個人がどう受け取り、何を信じ、どう行動するかは制御しきれない。元受給者がChatGPTの出力を法的助言として受け取り、裁判所へ向かったその判断は、いかなる設計によっても事前に防ぎきることはできなかっただろう。
個人の内面的な判断形成は、設計の射程の外にある。これは諦めではなく、射程を正確に定めるための確認だ。
だからこそ、問うべきはここだ。設計すべき対象は何か。判断が行われる条件・境界・責任構造——これらは設計の対象になりうる。そしてそれを意図的に設計することが、制度・組織・専門職責任を安定させる唯一の道筋だ。
専門的助言として機能しうる出力を、誰がどのような条件で、誰に向けて提供するのか。その出力に対して、誰がどのタイミングでレビューし、誰が最終的な責任を引き受けるのか。AI出力を「参考情報」として提示するのか、「助言」として提示するのか。その区別をUIと業務設計と規程で一致させることはできるのか。
これらは、個人の判断を制御しようとする問いではない。判断が発生する環境と境界を、意図的に設計するための問いだ。それがDecision Designの射程であり、精度改善とは別の場所にある。
ここまでの整理
訴訟の論点を整理するにつれ、一つのことが明確になってくる。
問題はAIが危険かどうかではない。ChatGPTが法的情報を出力したこと自体が悪いわけでもない。問題はより地味で、より構造的な場所にある。誰が判断主体で、どこまでをAIに任せ、どこからを人間が引き受け、その引き受けに責任がどう紐づくか——その設計が不在のまま、AIは社会に実装されている。
その設計不在に名前をつけ、輪郭を与え、実務として組み立てることができるのか。
それを問うのが、以降のパートだ。
ここまでの議論は、問題の所在を明らかにした。しかし、問題の所在を知ることと、それへの対処の思想を持つことは、別のことだ。
個人の判断そのものは設計できない。しかし、判断が行われる条件・境界・責任構造は、設計の対象になりうる。この一点を出発点に、体系的に考えようとする思想がある。
それが Decision Design（判断の設計） である。
Decision Design は、判断という行為そのものを設計対象とする思想だ。その中心にあるのが Decision Boundary（判断の境界） という概念である。誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。その線を、無自覚のまま放置せず、意図的に設計すること。それが Decision Design である。
ここからのパートでは、この思想の輪郭を明確にしたうえで、法務・保険・金融といった高リスク領域における具体的な実装の考え方を提示する。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。