誰が決めたのかを、誰も設計していない
スマートフォンで何かを買うとき、私たちはもうレビューを最後まで読んでいない。
正確に言えば、読む必要がなくなった。画面の上のほうに、AIが要約した数行が出る。「軽くて持ち運びやすい」「バッテリーの持ちがよい」。気がつくと、その数行だけを見て、カートに入れている。
2026年5月31日、日本経済新聞は「AIが人間の決定操る 商品レビュー要約で長所のみ抽出、購入3割増」という記事を掲載した。商品レビューをAIが要約する際、長所のほうが拾われやすく、その要約を読んだ人の購入は3割ほど増えた、という。理由はそれほど複雑ではない。要約は短くなければならず、短くするには何かを削らなければならず、削られるのはたいてい、言いにくい欠点のほうだからだ。
同じ記事には、ほかにも二つの話が並んでいた。
ひとつは、AIが生成した「存在しない判例」を、専門家までもが一度は信じてしまうという問題。もうひとつは、AIによる情報の偏りが、選挙という集団の意思決定に静かに影響していく可能性。
レビューの要約。架空の判例。選挙。
並べてみると、ずいぶん遠い話に見える。買い物の便利さと、司法の信頼性と、民主主義。スケールも領域もばらばらだ。この三つに共通点があると言われても、すぐには頷きにくい。
いったん、この3つを覚えておいてほしい。あとでまた戻ってくる。
影響されること自体は、たぶん問題ではない
ここで少し、立ち止まりたい。
「AIが人間を操る」という言い方には、どこか据わりの悪さがある。操る、という言葉が強すぎるのだ。
そもそも人間の判断は、ずっと何かに影響され続けてきた。店員の一言、雑誌のランキング、友人の「あれ、よかったよ」。広告は百年以上前から、私たちの欲望を設計しようとしてきた。誰かの判断が、外側からの情報によって動く——それ自体は、AIが登場するよりはるか前からあった、ごく普通のことだ。
だから、AIがレビューを要約して購入が増えた、という事実だけを取り出して怖がるのは、たぶん的を外している。影響があること自体は、新しくない。
新しいのは、影響の「中身」ではなく、影響の「構造」のほうだ。
しかも、この構造の変化は、ある日突然やってきたわけではない。気づいたときには、もうそうなっていた。検索して、比較して、自分で選ぶ。そういう手順を踏んでいたはずが、いつのまにか「AIに聞いて、出てきたものを選ぶ」に置き換わっていた。手間が減るたびに、判断の一部を少しずつ手放していたのに、手放したという感覚だけがなかった。
便利さは、たいていこういう顔をしてやってくる。誰も損をしていないように見えて、いつのまにか何かが入れ替わっている。
本当に抜け落ちているもの
友人に勧められて買ったなら、判断したのは自分だ。雑誌のランキングを参考にしたとしても、最後に決めたのは自分だとわかっている。納得がいかなければ、自分の選択として後悔もできる。
ところが、AIの要約を読んで買ったとき、判断したのは誰だったのか。
自分で決めたつもりではある。けれど、判断の材料はすでにAIによって選別されていた。何が削られたのかを、こちらは知らない。要約に欠点が載っていなかったのは、その商品に欠点がなかったからなのか、それとも要約の都合で消えたからなのか。区別がつかないまま、私たちは「自分で決めた」と思い込む。
ここに、見えにくい空白がある。
判断のプロセスにAIが入り込んでいるのに、「どこまでがAIの仕事で、どこからが自分の仕事だったのか」という線が、どこにも引かれていない。誰が決めたのか。うまくいかなかったとき、誰が責任を引き受けるのか。その問いに、はっきり答えられない状態が生まれている。
これは買い物に限った話ではない。
政府もこの構造に気づき始めている。2026年3月、総務省と経済産業省はAI事業者ガイドラインを第1.2版へと改訂した。最大の変更点は、外部のシステムに自律的に働きかけるAIエージェントに対して、人間の関与——いわゆるHuman-in-the-Loop——をより明確に求めたことだ。誤作動やプライバシー侵害のリスクを念頭に、「人間の判断を必須とする仕組み」を、開発する企業の側にあらかじめ組み込んでほしい、という方向である。
考え方としては、まっとうだ。最後は人間が確認する。それでこそ安全だ、と。
ただ、ひとつだけ気になることがある。
「人間が確認する」とは、具体的に、誰が、どの瞬間に、何を引き受けることなのだろう。
確認するボタンを押すのが人間でありさえすれば、それで人間が判断したことになるのか。AIが9割をお膳立てした結論に、最後だけハンコを押す。それは「人間の関与」なのか、それとも「関与しているという形式」なのか。
現場を想像すればわかる。一日に何百件もAIの判定が流れてくる画面で、人間に与えられた仕事が「承認」ボタンを押すことだけだったら、その人は本当に一件ずつ判断しているだろうか。たいていは、流れてくるものをそのまま通す。例外を見つけるための余白も、立ち止まる権限も、設計されていないからだ。関与の形だけがあって、判断の実体がない。
Human-in-the-Loopは、本来は責任を担保するための考え方だった。しかし設計を欠けば、それは判断ではなく儀式になる。ガイドラインが求めた「人間の判断を必須とする仕組み」も、こうして簡単に空洞になる。
ここまで来ると、最初の3つの話が、少しずつ近づいて見えてくる。
レビューの要約も、架空の判例も、選挙への影響も、表面的にはまったく別の出来事だ。
けれど、どれもが同じ場所でつまずいている。
AIが判断に深く入り込んでいるのに、「どこからが人間の領分なのか」という境界線が、誰によっても引かれていない。判断の主体が、いつのまにかぼやけている。
問題は、AIが優秀すぎることでも、人間が怠けていることでもない。
本当に起きているのは、判断にAIが参加するようになったにもかかわらず、その判断権限をどう配分するのかという構造が、設計されていないことだ。技術は進んだ。だが、判断を支える制度や責任の構造は、その速度で進化していない。これが、3つの話の底に共通して流れているものだ。
便利さに気を取られているうちに、私たちは肝心なものを設計し忘れた。「誰が、どこで、何を決めるのか」という、判断の構造そのものを。
ここから先で、その空白に名前を与えたい。
なぜ確認のハンコだけでは足りないのか。
境界線を引くとは、具体的に何をすることなのか。
補助金審査、行政手続き、AIエージェント。
現場でその線をどこに引くのかを考え始めると、ひとつの共通した問題に行き着く。
それは、
AIの問題ではない。
判断の問題でもない。
判断を、誰が、どの条件で、どこまで引き受けるのかという設計の問題である。
私はこの問題を、Decision Design（判断の設計）と呼んでいる。
Decision Designは、判断という行為そのものを設計対象とする思想だ。
その中心にあるのが Decision Boundary（判断の境界）という概念である。
誰が決めるのか。どこまでを任せ、どこからを引き受けるのか。
その線を、無自覚のまま放置せず、意図的に設計すること。
それがDecision Designである。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。