by Ryoji Morii / Insynergy Inc.
法務省が動き始めた
2026年、法務省が生成AIによる権利侵害について、法的整理のための有識者検討会を設置した。朝日新聞の報道によれば、検討対象にはパブリシティー権、声の権利、ディープフェイクポルノ、民事上の不法行為責任などが含まれ、7月に整理結果が公表される予定だという。
一次情報の流れだけを読むと、これは新しい技術に対して、既存の権利体系をどう当てはめるかという作業に見える。声はどこまで法的に保護されるのか。そっくりな顔はどこから侵害になるのか。ディープフェイクの被害にどう救済を与えるのか。確かに、どれも避けて通れない論点である。
しかし、この動きを「新しい権利論」として読むだけでは、問題の半分も捉えられない。
本当の論点は「誰が、どこで、何を基準に判断するのか」
生成AIによる権利侵害には、旧来の侵害と決定的に違う点がある。
第一に、侵害の生成速度が、人間のモデレーションを大きく超える。第二に、侵害の主体が曖昧になる──プロンプトを書いた人なのか、モデルを提供した企業なのか、学習データを供給した誰かなのか。第三に、侵害の境界が連続的である。似ている、そっくり、同一、といった連続量の中で、どこに線を引くかは誰も自明には知らない。
法律の整理は、この連続量のどこかに線を引くための参照点を与える。だがそれだけでは、現場では回らない。
ある声が、ある人物の声に「似ている」としよう。その類似度を判定するのは誰か。AIか、人間のモデレーターか、法務担当者か、最終的には裁判所か。どの段階で、誰が、何を根拠に「これはアウト」と判断するのか──この問いに答えなければ、法的整理は宙に浮く。
つまり、生成AIの権利侵害は、権利の問題であると同時に、判断主体・責任主体・救済設計の問題なのである。
三つの視点は、それぞれ不完全である
この問題に対して、これまでいくつかの視点が提示されてきた。
ひとつは技術の視点である。検知モデルを改良し、学習データから問題あるコンテンツを除外し、出力段でフィルターをかける。確かに必要な取り組みだが、技術だけでは「どこからが侵害か」という線引きそのものは決められない。技術はあくまで、あらかじめ決められた線を守る装置でしかない。
ふたつ目は倫理の視点である。AI倫理の総論は、尊重すべき価値を列挙する。透明性、公平性、説明責任、人間中心。いずれも重要な原則だ。だが原則は、現場の一件一件について「これはアウトか、セーフか」という具体的な判断を下さない。倫理は方角を示すが、個別の線は引かない。
三つ目はガバナンスの視点である。ポリシーを整備し、委員会を設置し、監査の仕組みを作る。これはこれで不可欠だ。しかしガバナンスは、判断の器を整える営みであって、判断そのものの中身を設計する営みではない。器が整っても、中で下される判断がぶれていれば、制度は空回りする。
技術、倫理、ガバナンス──どれも必要条件だが、どれも十分条件ではない。三つを足し合わせても、まだ埋まらない層がある。
「人間を入れればいい」では足りない
総務省と経済産業省が公開している「AI事業者ガイドライン 第1.2版」では、自律的に動くAIエージェントに対して、誤作動やプライバシー侵害のリスクを念頭に、人間の判断を必須とする仕組みづくりを開発企業などに求めている。方向性としては正しい。AIに全部を委ねてはいけない、というメッセージは明瞭だ。
しかし、「人間を入れる」という処方箋は、それ自体では設計ではない。
現場で起きるのはこういうことだ。AIが一次判定を出す。しかし判定が微妙な事例ばかりが人間に回ってくる。人間の審査担当者は疲弊し、処理件数に追われ、基準がぶれる。同じような事例に対して、違う判断が下される。やがて「人間が入っている」という事実だけが残り、判断の質は担保されない。
人を入れることと、人の判断を設計することは違う。
誰に、どの段階で、どのような情報を与えて、どのような基準で、どれだけの時間をかけて判断させるのか。そして、その判断はどこに記録され、どう検証され、どのように学習に戻されるのか。ここまで踏み込まない限り、「人間を入れました」はアリバイにしかならない。
問いを並べてみる
ここで一度、冒頭の問いに戻りたい。
ある声が、ある人物の声に似ている。その声で生成されたコンテンツが拡散される。
──それは誰のものか。
あるキャラクターにそっくりな画像が大量に生成される。どこまでがオマージュで、どこからが侵害か。
──その線を引くのは誰か。
ディープフェイクが通報される。削除の判断を下すのは、AIのスコアか、モデレーターか、法務か、経営か。
──最終的に止めるのは誰か。
これらは、法解釈の問いであると同時に、判断の帰属と境界の問いである。
法務省の検討会が整理を終えたあと、各社は自社のサービス内で、毎日、毎分、この種の判断を下し続けなければならない。法的な整理は参照点を与えるが、個々のケースに対する判断そのものは、現場に残り続ける。
静かな予告
ここまでで見えてきたのは、生成AIの権利侵害という問題が、ひとつの層だけでは解けないということだ。
技術の層、倫理の層、ガバナンスの層、人間の判断の層。これらを重ねた上で、なお残るものがある。それは、判断そのものをどう設計するかという層である。
この層には、まだ十分な名前が与えられていない。DXでもない、ガバナンスでもない、オートメーションでもない、AI倫理でもない。それらのどれでもないが、それらを横断している何か。法務省が7月に整理を出したあと、各社が直面するのは、おそらくこの層の問題である。
ここから先で、その層に名前を与える。
それが Decision Design（判断の設計） である。
Decision Designは、判断という行為そのものを設計対象とする思想だ。
その中心にあるのがDecision Boundary（判断の境界） という概念である。誰が決めるのか。
どこまでを任せ、どこからを引き受けるのか。
その線を、無自覚のまま放置せず、意図的に設計すること。それがDecision Designである。
以下のパートでは、Decision DesignとDecision Boundaryの輪郭をはっきりさせたうえで、生成AIの権利侵害判定という具体的な場面で、どのように判断の境界を設計すべきかを、実装レベルで提示する。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。