安全なモデルと、安全な意思決定は、別のものだ。
FAA型の規制が実現しても、組織の中に残る問いがある。
2026年6月10日、米アンソロピックのダリオ・アモデイCEOが、AI規制をめぐる論考を公開した。日本経済新聞は「AIに航空機並みの安全審査を」という見出しでこれを報じている。
航空機。型式証明。許可制。
直感的に、これは「分かりやすい」提案だ。安心できる響きすらある。
だが、この記事の主題はAI規制そのものではない。FAA型の制度が仮に実現したとして、そのとき組織の中に何が残るのか――そこに焦点を当てたい。
結論を先取りすれば、こうだ。モデルを審査しても、「誰が決めるのか」という問いは残る。
アンソロピックの提言を、要約する
まず事実を整理する。
アモデイCEOの論考の核心は、フロンティアモデル（最先端の大規模AI）を公開する前に、第3者による安全性審査を義務づけよ、というものだ。
審査の対象となるリスクは複数の領域にまたがる。サイバーセキュリティ、生物兵器、AIの制御喪失、自動化された研究開発。これらを独立した評価者がチェックする。
そして「容認できないリスク」があると判断された場合、政府はそのモデルの公開を差し止める権限を持つべきだ、とする。違反した企業には、売上高に連動した制裁金を科す。
構造としては、航空機の型式証明に近い。FAA（米連邦航空局）が「この機体を飛ばしてよいか」を審査するように、当局の許可を経なければAIを世に出せない、という制度だ。
注目すべきは、これが大手AI企業のトップとして、最も踏み込んだ規制要求だという点である。OpenAIが求めてきた水準よりも強い。これまで「安全性重視」を掲げてきたアンソロピックらしい提言ではある。
背景には、AIの能力が政策の処理速度を超えて伸びているという危機感がある。とりわけ、自律的に動くAIエージェントが現実の脅威になりつつあるという認識だ。
ここまでは、ニュースの要約だ。
FAAモデルは、魅力的に見える
なぜ、この提案はこれほど自然に受け入れられそうに見えるのか。
理由は、航空機の安全規制が「成功体験」だからだ。
空を飛ぶという行為は、本来きわめて危険だ。にもかかわらず、私たちは何の不安もなく飛行機に乗る。それは、機体が認証され、整備が記録され、操縦士が免許を持ち、運航が許可されているからだ。
許可制と認証制度。この2つが、危険なものを「安全に使えるもの」へと変えた。
だから、AIにも同じ枠組みを当てはめれば安心できる――そう感じるのは無理もない。審査を通ったモデルなら大丈夫だろう、と。
この「安心」の感覚は強力だ。そして、強力であるがゆえに、ある重要な事実を覆い隠してしまう。
しかし、航空機でも事故は起きる
ここで立ち止まりたい。
認証された機体は、墜落しないのか。
そうではない。型式証明を受けた飛行機も、墜落する。整備記録の完璧な機体も、事故を起こす。
なぜか。
FAAが審査するのは、「この機体を飛ばしてよいか」だ。設計は妥当か。基準を満たしているか。出発点での適格性を、当局は判断する。
しかし、FAAは「飛行中に、誰が、どのように判断するか」までは保証しない。
乱気流に入ったとき。計器が異常を示したとき。管制塔と機長の指示が食い違ったとき。その瞬間に誰が何を決めるのか――それは認証の外側にある。
実際、事故の主因は機体の欠陥ではない。米連邦航空局（FAA）の整備士向けハンドブックは、ほとんどの航空事故と重大インシデントの根底にあるのは機械的故障ではなく人的要因だ、と明記している。
ボーイングの事故統計（"Statistical Summary of Commercial Jet Airplane Accidents"）を分析した米科学アカデミーの報告も同じ方向を指す。機体システムの不具合が関与する事故はごく一部にとどまり、運航乗務員は大型輸送機の死亡事故のおよそ6割以上で原因の一つに数えられる。
そして問題の核心は、操縦技量そのものよりも、判断と連携の側にある。運航中の意思決定、権限や役割の混乱、コミュニケーションの断絶。「誰の判断だったのか」が曖昧だった瞬間に、事故につながり得る。
日本でも、記憶に新しい例がある。
2024年1月2日の夕刻、羽田空港のC滑走路で、着陸してきた日本航空516便（エアバスA350、乗客乗員379名）と、滑走路上に進入して停止していた海上保安庁の航空機（ボンバルディアDHC-8、乗員6名）が衝突し、炎上した。海保機の乗員5名が亡くなり、JAL機の379名は全員が脱出した。海保機は、前日に発生した能登半島地震の救援物資を、新潟へ運ぶ途上だった。
両機とも、認可された機体だった。乗員も有資格者。管制も置かれていた。それでも、衝突は起きた。
運輸安全委員会の経過報告（調査は継続中）は、事故に至った要因として、3つの重なりを挙げている。海保機側が、管制官から滑走路への進入許可を得たと認識していたこと。管制側が、海保機の滑走路への進入を認識していなかったこと。そしてJAL機側が、衝突の直前まで滑走路上の海保機に気づいていなかったこと。
ここにあるのは、機体の欠陥ではない。「誰が、何を、どう理解して、何を決めたのか」のすれ違いである。
象徴的に見えるのが、「No.1」という一言だ。管制官は海保機に、離陸の順番が1番目であることを伝えた。だが海保機の機長は、それを「自分の離陸を優先してくれた＝滑走路に入ってよい」という許可の意味に受け取ったとされる。同じ言葉が、発した側と受け取った側で、別の意味になった。「どこまでが許可されたのか」という境界が、言葉の上で揺らいでいたのだ。
そして、最も示唆的なのはここだ。滑走路への誤進入を検知し、管制官の画面に警告を表示するシステムは、事故当時も正常に作動していた。海保機が滑走路に入ってから衝突までの約1分間、警告は出続けていた。
それでも、衝突は防げなかった。担当の管制官は、その表示を見ていなかった。普段から誤表示が多く、警告は軽く扱われ、表示されたときに誰がどう動くかのルールも、定まっていなかったからだ。
情報はあった。仕組みも動いていた。人もその場にいた。足りなかったのは、「その警告が出たとき、誰が何を決めるのか」という設計だった。
この記事が何度も立ち戻る主題が顔を出す。どこまでを自動の仕組みに委ね、どこからを人間の判断に委ねるのか。そして、人や仕組みを「置く」ことと、それが「決める」こととは別だ。その境界線そのものが、設計の対象なのだ。
つまり、安全な機体と安全な飛行は別のものだ。
審査が保証するのは前者にすぎない。
AIでも同じではないか
この構図は、そっくりそのままAIに移植できる。
FAA型の審査は「このモデルを公開してよいか」を判断する。生物兵器の設計に悪用されないか。サイバー攻撃の道具にならないか。出発点での安全性を第3者が確かめる。
それは意味のあることだ。否定する必要はない。
だが、それで保証されるのは「安全なモデル」までだ。
安全なモデルと安全な意思決定は違う。
審査を通ったモデルが、組織の中で、現実の業務で、どう使われるか。そのモデルの出力に従って、誰が何を決めるのか。いつ人間が介在し、いつ機械に委ねるのか。
それは、モデルの認証では決まらない。
審査済みのAIを使っていても、判断の構造が曖昧なら組織は「飛行中」に迷う。ここに問いを置きたい。
AIエージェント時代の具体的な問い
抽象論を避けよう。3つの場面で考える。いずれもAIエージェントが現実に入り込んでいる領域だ。
例1：サイバーセキュリティ ――アサヒの事案を、AIに置き換えてみる
2025年9月、アサヒグループホールディングスがランサムウェア攻撃を受けた。午前7時ごろにシステムの異常を検知。その約4時間後の午前11時ごろに、被害の拡大を防ぐため、会社はネットワークを遮断しデータセンターを隔離した。
この「止める」という判断を下したのは人間だった。
そして、その遮断こそが、国内ビール市場の約4割を握る企業のサプライチェーンを止めた。製造は一時停止し、受注や物流のシステムはダウン。出荷は手作業に逆戻りし現場は混乱した。配送が通常の体制に戻ったのは翌2026年2月である。
ここで想像してほしい。もし、「止める／止めない」をAIが自律的に判断し、実行していたら。
おそらく遮断は数秒で済んだだろう。暗号化の拡大も、情報の流出も、より小さく抑えられたかもしれない。セキュリティという一点だけを見れば、AIのほうが速く優秀だ。
だが、その数秒の遮断は4割のシェアを持つ企業の操業を、最需要期の年末商戦に、数か月止める決定でもあった。
セキュリティ最適の判断と事業最適の判断は、正面から対立する。
では――4割のシェアを持つ会社の操業を止めると、誰が決めたのか。AIか。遮断の閾値を設定した担当者か。それとも、誰も明示的には決めていなかったのか。
例2：購買承認
AIが複数の見積もりを比較する。AIが最適な一社を推奨する。AIが稟議書のドラフトまで生成する。
人間がすることは、承認ボタンを押すことだけだ。
このとき、発注を「決めた」のは誰か。ボタンを押した人間か。それとも、選択肢を一つに絞り込んだAIか。
形式上は人間が決裁している。だが、実質的に判断したのは誰なのか。
例3：採用
AIが書類を選考する。AIが候補者を評価する。AIが順位をつける。
人事部長は、上位から順に面接を組み、内定を出す。
このとき、人事部長は本当に「判断」したのだろうか。それとも、AIの順位づけを追認しただけなのか。
落とされた候補者が理由を問うたとき、説明できる人間はいるだろうか。
AI事業者ガイドライン1.2版が示すもの
こうした問いに、日本の制度設計はまったく無関心なわけではない。
政府は、自律的に動くAIエージェントに対して、誤作動やプライバシー侵害のリスクを念頭に、「人間の判断を必須とする仕組み」づくりを開発企業などに求めている。
総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日公表）は、AIの評価・判断・推奨を人間が鵜呑みにしないこと、人間自身が承認理由や根拠を独自に考えることの重要性に触れている。
方向性は正しい。AIに丸投げするのではなく、人間を判断の回路に組み込む。これは健全な発想だ。
だが、ここで安心してしまうと、もう一段深い問いを見落とす。
問題は残る
「人間を入れればよい」のだろうか。
Human-in-the-Loop――判断の輪の中に人間を残す。この言葉は、いまや一種の免罪符になりつつある。人間がいるから大丈夫だ、と。
しかし、前述の3つの例を思い出してほしい。
承認ボタンを押す人間はいた。順位を追認する人事部長もいた。それでも、「誰が決めたのか」は曖昧なままだった。
人間が回路の中にいることと、人間が実質的に判断していることは、まったく別だ。
形だけの人間を1人置いても、それは「飛行中の判断」を保証しない。むしろ、責任の所在を曖昧にする隠れ蓑になりかねない。
問いは、こうだ。
人間をどこに、どう配置すれば、判断は機能するのか。どこまでをAIに任せ、どこからを人間が引き受けるのか。その境界は、誰が、どうやって引くのか。
どう設計するのか。
FAA型の審査も、ガイドラインの原則も、ここから先には踏み込まない。
モデルを安全にすること。人間を回路に残すこと。それは入口にすぎない。
本当の問題は、判断そのものを、どう設計するかにある。
「誰が決めるのか」を、偶然や空気に委ねず、構造として設計する方法。
その設計思想を説明したい。
詳細版について
本稿は、公開範囲を基に構成したInsynergyの日本語サイト版です。詳細な議論と実装上の考察はnoteの詳細版で解説しています。