「AIを使ったかどうか」を監視する社会が見落としている本当の問題

ライターたちは、いま“人間っぽく書く”ことに腐心している

WSJに、奇妙な記事が載っていた。

ライターたちが、AIを使っていないことを証明するために、わざと文章を崩している。タイプミスを残す。エムダッシュを消す。整いすぎた段落をほどく。少し雑に、少し人間くさく書く。そういう演出を、職業的な努力として行っている、という話だ。

読んでいて、最初は笑ってしまった。

けれど、笑ったあとに残ったのは、何かもっと座りの悪い感覚だった。

これは要するに、逆チューリングテストである。

機械が人間に近づくことを試すのではなく、人間が「自分は機械ではない」ことを証明させられている。AIっぽく見えること自体が、ペナルティになる。だから人間は、人間に擬態する。自分自身に。

監視対象になっているのは、文章の質ではない。「AIを使ったかどうか」という、そのこと自体だ。

違和感の正体

しばらく考えて、自分が何に引っかかっていたのかが、ようやく見えてきた。

「AIを使ったかどうか」は、本質的な問いではない。

たとえば、外注はどうだろう。

ライターが下調べをアシスタントに頼んだとして、それをわざわざ明示する慣行はない。編集者が大幅に手を入れた原稿でも、署名はライターのままだ。ゴーストライターが書き、著名人が名前を貸すという形態すら、ある業界では珍しくない。

つまり、「誰がどこまで関与したか」は、もともと文章という成果物にとって、絶対的な開示事項ではなかった。

それなのに、AIだけが特別扱いされている。

なぜか。

答えは、たぶん、AIに対する不気味さのほうにある。けれど、不気味さを取り除いた先で残るべき問いは、別のものだ。

誰が、その文章の判断を引き受けているのか。

文章を「生成した」のがAIか人間か、ではない。その文章を出すと決めたのは誰か。誤りがあったとき、責任を負うのは誰か。どこまで委ねて、どこからを引き受けたのか。

これが欠落したまま、「AIっぽさ」だけを追いかけるから、議論が空回りする。

エムダッシュの有無は、責任構造を映さない。

Human-in-the-Loopという、儀式

ここで持ち出されがちなのが、Human-in-the-Loop（HITL）という概念だ。

最後に人間が確認する。人間がボタンを押す。だから大丈夫。そういう論法である。

一見、まっとうに聞こえる。

でも、現場を少し覗くとわかる。HITLは、しばしば儀式になる。

承認画面が出る。確認のチェックボックスが並ぶ。担当者は十数件、ときに数百件を流すように確認する。問題ないように見えれば、押す。問題があるかどうかを実質的に判断する時間も、権限も、責任の引き受け方も、明確には設計されていない。

「確認しました」のクリックは、責任の証拠としてログに残る。

承認という行為だけが残り、判断という行為だけが消えていく。

けれど、本当に判断したかと言われると、誰も即答できない。

これは現場の怠慢ではない。HITLという概念が、判断構造を設計せずに“人間の存在”だけを要求しているからだ。人間がそこにいる。それで足りている、ということになっている。

足りていない。

人間が「いる」ことと、人間が「引き受けている」ことは、別のことだからだ。

この構造は、実はかなり身近なところにもある。

たとえば、メールの誤送信防止ソフトだ。

宛先を確認してください。To、Cc、Bccを確認してください。添付ファイルを確認してください。チェックボックスが並び、「本当に送信しますか」と聞かれる。

導入当初は、たしかに確認する。

けれど、数週間もすると、人間はその動作を“処理”に変える。

私は毎回、流れるようにチェックを入れて、送信ボタンを押している。多くの人も、たぶん同じだと思う。

そこに判断は、ほとんど残っていない。

もちろん、これは利用者の怠慢ではない。

人間は、反復された確認行為を高速に手続き化する。99回問題が起きなければ、100回目も同じだと脳が学習するからだ。

つまり、確認画面を増やすことは、「人間を介在させる」ことにはなる。

しかし、「人間が判断している」ことには、必ずしもならない。

ログには、“確認しました” が綺麗に残る。

けれど、本当に判断が行われていたかは、別問題なのだ。

問題は、確認回数が少ないことではない。

どの条件で、人間に“本当に判断させるか”が設計されていないことだ。

行政も同じ場所に立っている

日本政府も、この論点には気づいている。

総務省と経済産業省が公開している「AI事業者ガイドライン 第1.2版」では、自律的に動作するAIエージェントについて、誤作動やプライバシー侵害のリスクを念頭に、人間の判断を必須とする仕組みづくりが求められている。開発企業に対しても、利用企業に対しても、共通の要請として書かれている。

方向性として、これは正しい。

けれど、「人間の判断を必須とする」という言葉は、注意深く読まないと、HITLと同じ罠を踏む。

人間がいれば足りる、と読んでしまうのだ。

本当に問われているのは、その先にある。

どのような構造のなかで、人間が、何を引き受けているのか。

ここを設計しないまま「人間の判断を介在させました」と言っても、それは “確認しました” のクリックと、構造的に同じものになる。儀式は、規模が大きくなるほど儀式らしくなる。

文章の話だけでは、もう終わらない

ここまではライターと文章の話だった。

けれど、同じ構造はこれから組織全体に広がっていく。おそらく。

AIエージェントが稟議の下書きを作る。法務レビューの初稿を出す。採用候補をスコアリングする。営業先を選ぶ。融資審査の前さばきをする。補助金申請をふるい分ける。

そのどれもが、「AIが提案し、人間が承認する」という形を取りはじめている。

そのとき問われるのは、「AIを使ったかどうか」ではない。

問われるのは、判断がどこで起きていて、誰がそれを引き受けているかだ。

最後に人間がボタンを押した、というだけでは、もう足りない。誰が、どの境界線で、何を判断したのか。その境界はあらかじめ設計されていたのか、それともなんとなく決まったのか。間違いが起きたとき、その境界に立ち戻ることはできるのか。

これらが問えない組織は、しずかに責任が空洞化していく。

そして、責任の空洞化は外から見えない。「人間が確認しました」というログだけは、ちゃんと残っているからだ。記録は完璧で判断だけがどこにもない。

外形だけが整っていく状態は、危機が起きるまでは誰の目にも問題に映らない。それがいちばん厄介な性質だと思われる。

言ってしまえばこれは、AIガバナンスの話ではなく作者性の話に近い。誰がその結論の作者なのか。誰の判断として、それは世に出ていくのか。

「全部AIで作る」が、空洞化する理由

少し角度を変えて、営業提案書の話をする。

最近、「提案書をAIで自動生成しました」という事例をよく聞く。タイトル、目次、章立て、図表。たしかに、それらしい体裁のドキュメントが、短時間で出てくる。

けれど、提案書をクライアントに持っていったあと、必ず聞かれるのは、こういう問いだ。

• なぜ、この提案なのか

• なぜ、この優先順位なのか

• なぜ、このリスクを許容したのか

ここで詰まる提案書は、どれだけ体裁が整っていても、提案として成立していない。

なぜなら、提案書の価値は、文章生成でも、レイアウトでも、表現でもないからだ。

価値の中心は、何を提案するか、何を引き受けるか、どこに賭けるかにある。

要するに、判断だ。

AIが得意なのは、構造化、要約、pros/consの整理、表形式化、ドラフト生成、比較軸の抽出、論点漏れの検出。このあたりは、人間がやるより速く、しばしば丁寧だ。

けれど、AIが代われないものがある。

• 何を提案するか

• どのリスクを取るか

• どこで勝負するか

• なぜそれを推すか

• クライアントに何を約束するか

これは、意味の方向付けの領域である。

だから、こう言える。

営業が提案書を丸ごとAIに書かせても、ほとんど意味はない。価値があるのは、思いついたまま書き殴った散文をAIに構造化させたり、pros/consを整理させたり、論点を見える化したりすることだ。そのうえで、最終的に「なぜこの提案なのか」を、自分の言葉で説明できるかどうか。そこに、判断の境界がある。

自分の言葉で説明できるかどうか。これは、かなり本質的な境界線だ。

分業は、ずっと前から行われていた

ここで思い出してほしいのは、人間は昔から、巨大な分業のなかで「作品」を成立させてきたという事実だ。

漫画を考えてみる。

『ONE PIECE』の尾田栄一郎先生は、すべてのコマをひとりで描いてはいないだろう。背景、ベタ塗り、トーン、仕上げ。アシスタントとの分業のうえで、あの作品は成り立っているのではないだろうか。

それでも、あれは尾田先生の作品である。

なぜか。

尾田先生の作品として読まれるのは、そこに一貫した判断主体があるからだ。

なぜこのコマなのか。なぜここで泣かせるのか。なぜこのキャラクターを、いまここで立たせるのか。物語のどこに賭けて、何を引き受けたのか。これらに対して、作者として答えられる。

だから、作者性が成立している。

スタジオジブリも、同じ構造だろう。原画、動画、彩色、背景、撮影。巨大な分業である。けれど、宮崎駿監督が最終的に、世界観、演出、間、感情、何を描くかを引き受ける。だから、ジブリ作品はジブリ作品になる。

『名探偵コナン』も、『ちびまる子ちゃん』も、構造は同じはずだ。

これらの作品は、「全部ひとりで手作業で描きました」という神話では成立していない。

成立しているのは、判断主体の一貫性である。

作者性と、Decision Boundary

ここで、最初の話に戻る。

「AIを使ったかどうか」を監視することは、漫画でたとえれば、「アシスタントを使ったかどうか」を監視することに近い。背景をひとりで描いたか、誰かに任せたか。それを問い詰めても、作品の価値は決まらない。

問うべきは、こちらだ。

あなたは、何を引き受けて、その作品を世に出しましたか。

これに答えられる人は、AIを使っていようと、アシスタントを使っていようと、外注を使っていようと、作者である。

答えられない人は、自分の手で全部書いていても作者にはなれない。

ライターの逆チューリングテストが奇妙に見えたのは、ここに理由がある。

「AIを使っていない」という証明は、作者性の証明にならない。タイプミスは作者性を保証しないし、エムダッシュの不在も保証しない。

作者性を保証するのは、ただひとつだ。

「なぜそれを世に出したのか」を、自分の言葉で説明できること。

そして、組織のなかで判断が分散していくAI時代に、この作者性をどう設計するか。それが、Decision Boundaryという問いになる。

だから、設計概念が要る

ガバナンスは必要だ。

けれど、ガバナンスという言葉だけでは、判断がどこで起き、誰がそれを引き受けるのかまでは設計できない。

DXでも、Automationでも、AI ethicsでも、足りない。

それぞれは大事だ。しかし、いま起きていることは、どの単一領域にもおさまらない。判断という行為そのものが、人間とAIと制度のあいだで、ゆっくり分散していっている。その分散を、無自覚のまま進めてしまっていることが、本当の問題なのだと思う。

必要なのは、これらを横断する視点だ。判断の所在を、機能でもプロセスでもなく、引き受け方そのものから見直す視点である。

それが Decision Design（判断の設計） である。

Decision Designは、判断という行為そのものを設計対象とする思想だ。

その中心にあるのが Decision Boundary（判断の境界） という概念である。

誰が決めるのか。

どこまでを任せ、どこからを引き受けるのか。

その線を、無自覚のまま放置せず、意図的に設計すること。

それがDecision Designである。

ここから先は、有料記事として書く。

「AI不使用証明」ではなく「Decision Log」へ。

「人間が確認しました」ではなく「人間が何を引き受けたか」へ。

その移行を、概念ではなく、設計対象として扱うために。

詳細版について

本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。