アメリカの大規模モデルが安全の名のもとに閉鎖的になっている

著者：晓静

編集：徐青陽

6月27日朝、Anthropicは発表した：アメリカ政府はその最強のサイバーセキュリティモデルMythos 5を100以上のアメリカの機関に再展開することを承認した。これには大企業や政府機関が含まれる。一般向けのバージョンFable 5の「復活が近い」。

外部メディアが入手した商務長官ルートニックからAnthropic共同創業者トム・ブラウンへの手紙によると、ルートニックはAnthropicに「適切な安全保障措置が整っていることを確認した」と通知した。

しかし同じ手紙の中で、ルートニックは6月12日の初期指示のすべての他の要求が依然として有効であり、Fable 5がいつ一般に復活するかについては一言も触れていない。

ほぼ同時に、6月27日未明、OpenAIは正式にGPT-5.6シリーズの3つのモデル：Sol、Terra、Lunaを発表した。同様にホワイトハウスの要求により、GPT-5.6は「政府による個別承認を受けたパートナー」のみがAPIアクセスを利用でき、ChatGPTはまだオンラインになっていない。

全体のタイムラインを振り返ると：6月2日トランプがAI行政命令に署名、6月9日AnthropicがFable 5とMythos 5を発表、6月12日商務省が全面的な撤去を命じ、6月26日OpenAIがGPT-5.6を発表したが発行が制限され、6月27日Mythos 5が限定的に復活を許可された。

1ヶ月も経たないうちに、アメリカ政府は最前線のAIモデルに対する管理を「停止---交渉---条件付き放出」という完全なサイクルを経た。

OpenAI戦略チームの責任者ディーン・W・ボール（前ホワイトハウスAI顧問）は6月16日のブログでこの件が業界に与える影響をまとめた：「最前線のAIモデル開発者は、政府から明確な『グリーンライト』を得なければリリースできない」。

ディーン・W・ボールは6月26日の長文『What Should Be Done』で評価した：「誰も許可を得るための要求が何であるかを知らない。ここで私が言う『誰も』は文字通りの意味で、政府機関自身も知らないようだ」。

図：ディーン・W・ボールの長文『What Should Be Done』

01 本当に強すぎて安全でないのか？

これはこの件の最も核心的な問題である。政府の行動は、これらのモデルの能力が受け入れられない安全リスクを構成するほど強いという暗黙の前提に基づいている。しかし、当事者の企業自身の公式評価は、全く逆の結論を示している。

OpenAIはGPT-5.6の発表ブログで完全な安全評価結果を開示し、OpenAI自身が構築し公開した準備フレームワークに従って、Solはこのラインを越えていない。フレームワークのレッドラインの定義は、モデルが人間の助けなしに自律的に高価値のターゲットの未知の脆弱性を発見し利用できるかどうかである。

具体的なテスト結果は：SolはChromiumとFirefox上で脆弱性と利用原語（exploitation primitives）を識別できるが、「テスト条件下で自律的に完全に利用可能なエンドツーエンド攻撃チェーンを生成することはなかった」。OpenAI自身の判断は：Solは人々に脆弱性を見つけてパッチを当てるのが得意であり、エンドツーエンドで信頼性のある完全な攻撃を実行するわけではない。

しかしOpenAIは続けて「非常に感情的な」一文を書いた：「ベンチマークの閾値は、モデルが使用される方法や他のツールと組み合わされる方法をすべて捉えることはできない」。私たちの基準ではラインを越えていないが、実際の世界ではどう使われるかは誰が知っているのか？意図的にあいまいなグレーゾーンを作り出した。

Anthropicはそれほど「感情的」ではなかった。6月13日の声明で、Anthropicは政府の理由を逐一反論した。政府はFable 5の脱獄方法を発見したと主張し、Anthropicは次のように応じた：第一、これは「狭い範囲の非汎用脱獄」であり、本質的にはモデルにコードの一部を読ませて欠陥を指摘させるものである；第二、「他の公開されているモデル、OpenAIのGPT-5.5を含め、同様のことができる」；第三、Anthropicは数千時間のレッドチームテストを行い、「一般的な脱獄を見つけたテスターはいなかった」。

AnthropicのCEOダリオ・アモデイは6月11日に発表した長文『Policy on the AI Exponential』でこのような状況を予測しており、声明の中で明確に表明した：「政府は不安全な展開を阻止できるが、プロセスは透明で公平で明確で、技術的事実に基づくべきである。この行動はこれらの原則に合致していない）」。

二つの最も激しい競争相手が、同じ月にそれぞれ独立した評価体系を用いて同じ結論に達した：業界が自ら構築した安全フレームワークに従えば、これらのモデルは不可展開のリスクを構成しない。

では問題が生じる。モデルが業界のレッドラインを越えていない場合、政府は何を根拠に介入するのか？ディーン・ボールはさらに明らかにした：政府は以前、唯一の最前線AI経験を持つ官僚をAI基準と革新センター（CAISI）の責任者として雇用したが、その人物はOpenAIとAnthropicで勤務していたが、数日で上層部に解雇された。残りのCAISIチームは「後Mythos危機期」の間、作業停止命令の状態にあり、他の政府機関とのコミュニケーションも許可されなかった。「私が知っているトランプ政権の官僚の中で、最前線AI経験を持つ者はいなかった」。

ボールの意図は、規制決定を下す人々は、明確な安全基準を定義せず、これらのモデルの技術的能力を評価していないということである。

さらに自然な疑問は：Fable 5とGPT-5.6 Solは本当に何らかの「人類の脅威の特異点」を越えたのか？客観的な能力のレッドラインが存在し、それを越えたら規制が必要なのか？

多くのAI分野の専門家は、技術的にはそのようなラインは存在しないと述べている。モデルの能力は連続的に増加する曲線である。各世代のモデルがリリースされるたびに「史上最強」とされるが、今回だけが政府の直接介入を引き起こした。

その背後には三つの暗黙の条件がある：

第一、能力が「実証可能」になった。AnthropicはMythos 5を「世界最強のサイバーセキュリティモデル」と宣伝し、Stripeが1日で5000万行のコードを移行する事例が広く伝播した。これらの話は技術を理解していない政治家にも「悪者が使ったらどうなるか」を想像させる。

Metaの元首席AI科学者でチューリング賞受賞者のヤン・ルカンは2025年11月にこの論理を公に指摘した：Anthropicが最初のAIサイバー攻撃脅威報告書を発表した際、ルカンはそれを「規制劇場」と呼び、AnthropicがAIセキュリティの恐怖を利用して「立法者を操る」ことを指摘した。

ルカンの当時の判断は：クローズドソース企業がAIセキュリティの脅威を体系的に誇張する目的は、大企業だけが通過できるコンプライアンスの壁を築き、オープンソースの競争者を排除することである。Anthropicが予想しなかったのは、石が自らに向かって投げられたことである。

第二、誰かがナイフを手渡した。アマゾンのCEOアンディ・ジャシーは政府にAnthropicモデルの安全性の懸念を報告した。アマゾンはAnthropicの最大の投資者であり、クラウドサービスのパートナーでもあり、さらに自社開発モデル（Novaシリーズ）とAnthropicの競争相手でもある。これにより、政府は行動の合法性の根拠を得た。

第三、トランプは今月初めにAI行政命令に署名し、政府に60日間で最前線モデルの「自発的提出ルール」を策定させた。行政命令は最初の執行事例を必要とし、それがなければ無意味なものとなる。Fable 5はその銃口に当たった。

これにより、より深い問題が浮かび上がる。「強すぎるなら規制する」というが、「どの程度が強すぎるか」は規制当局が決定し、基準は公開されず、明確な閾値もなく、異議申し立ての手続きもない場合、今後のすべての最前線モデルのリリースは同じ不確実性に直面することになる。企業は自社のモデルがいつ規制を引き起こすかを知らない。

画像はAIによって生成された

02 歴史の教訓、30年前の暗号戦争

アメリカ政府は輸出管理を用いていわゆる危険技術の拡散を抑制しようとしているが、これは非常に似た歴史的先例、90年代の「暗号戦争」（Crypto Wars）を思い起こさせる。

冷戦が終わった後、インターネットが商業化され、コンピュータ科学者たちはデータ伝送の安全を保護する暗号技術を開発していた。アメリカ政府は強力な暗号アルゴリズムを「軍需品」（munitions）として分類し、ミサイルや戦車と同じ輸出管理リスト（ITAR/EAR）に載せた。論理は今日と非常に似ている。敵が強力な暗号を手に入れた場合、NSA（アメリカ国家安全保障局）は彼らの通信を傍受できず、国家安全が脅かされる。

これは、アメリカのソフトウェア会社が海外の顧客に対して40ビットの弱い暗号バージョンを輸出するしかなく、NSAが簡単に解読できるバージョンであり、国内バージョンは128ビットの強力な暗号を使用できることを意味した。外国のユーザーは自分たちが「改良版」を手に入れていることを知り、ヨーロッパやイスラエルの代替製品に移行し始めた。

1991年、フィル・ジマーマンという暗号学愛好者がPGP（Pretty Good Privacy）を作成した。これは一般の人々が強力な暗号でメールを保護できるソフトウェアである。彼はPGPをインターネットにアップロードした。アメリカ税関はすぐに彼に対して刑事捜査を開始した------罪名は「軍需品の不正輸出」である。

ジマーマンの反撃は非常に巧妙だった：彼はPGPの完全なソースコードを本に印刷して出版した。本は第一修正条項によって保護され、出版の自由は憲法の権利である。ソフトウェアを規制することはできても、本の輸出を禁止することはできない。捜査は3年間続き、最終的に1996年に終了し、政府は訴訟を提起しなかった。

ほぼ同時に、NSAはより過激な提案を発表した：クリッパーチップ。設計思想は、すべての通信機器にこのチップをインストールし、チップが通信を暗号化し、チップ内にキー管理メカニズムを組み込み、法執行機関の許可のもとで政府が管理されたキーを通じて通信を解読できるようにするものである。ユーザー間の通信は第三者に対して暗号化されるが、政府はいつでも解読できる。クリントン政権はこの提案を強力に推進した。結果、学界はチップの設計欠陥を発見し、テクノロジー業界は一斉に抵抗し、一般市民は強く反対し、1996年には完全に消滅した。

1995年、数学者ダニエル・バーンスタインは自分が書いた暗号アルゴリズムのソースコードをオンラインで公開しようとしたが、政府は輸出管理を理由に禁止した。彼は司法省を訴えた。第9巡回控訴裁判所は影響力のある判決を下した：ソフトウェアのソースコードは第一修正条項によって保護される「言論」（speech）であり、政府による暗号コードの輸出管理は違憲である。この判決は、全体の規制体系の法的基盤を直接揺るがした。

2000年1月、クリントン政権は暗号の輸出管理を大幅に緩和した。その理由は、もはや管理できなかったからである。PGPはすでに全世界に広まり、オープンソースの暗号アルゴリズムが世界中に普及し、規制はアメリカ企業の競争力を妨げるだけであり、外国の顧客はすでに他の供給者に移行していた。

規制が緩和された後、今日のSignalやWhatsAppのエンドツーエンド暗号化が実現した。90年代の規制が今も続いていたら、これらの製品は存在しなかっただろう。

90年代に規制されたのは強力な暗号アルゴリズムであり、その理由は国家安全であり、手段はITAR軍需品の輸出管理であった。傷ついたのはアメリカのソフトウェア会社（弱いバージョンを輸出せざるを得なかった）が、影響を受けなかったのは外国の開発者（自ら暗号アルゴリズムを書くことができた）である。

2026年に規制されるのは最前線のAIモデルの能力であり、その理由も国家安全であり、手段は輸出管理命令である。

今回本当に傷つくのは誰なのか？

外部メディアは指摘している：「誰も1000億ドルをかけてデータセンターを建設し、政府が承認した100社のためだけにサービスを提供するために建設するわけではない」。

最前線モデルのトレーニングコストは十億ドル単位であり、回収コストのウィンドウはリリース後数ヶ月しかなく、その後モデルは次世代に変わり、競争が激化し、利益率が圧縮される。毎週の承認遅延は、この限られた利益ウィンドウを飲み込んでいる。ブランドンの結論は：「これが続けば、産業全体の基盤投資論理が揺らぐだろう」。

ジョージ・ワシントン大学の政治学助教授ジェフリー・ディンの核心的な論点は：大国の技術競争において、勝敗を決定するのは誰が最初に技術を発明したかではなく、誰がその技術をより早く経済全体に拡散できるかである。汎用技術は特にそうである------それは広範な社会的拡散を必要とし、それを中心に新しい組織が創設され、大規模な現実世界の使用データがその応用の境界を発見するために必要である。ディーン・ボールはディンを引用しながら書いた：「汎用技術の用途は発見されるものであり、事前に知られるものではない」。

しかし大洋の向こう側、中国の大モデルはオープンソースの姿勢で世界の開発者に向かって進んでいる。

暗号アルゴリズムは純粋な数学であり、一度発表されると取り消すことはできない。AIモデルの重みも類似の特性を持つが、クローズドソースの最前線モデルの推論能力は確かに少数の企業のAPIの背後に集中している。

しかしオープンソースモデルの能力は世代を追うごとに追いついてきており、規制は拡散を遅らせることはできても、拡散を止めることはできない。90年代には「負けを認めて規制を緩和する」までに約10年かかった。AIの規制も同様の時間周期を必要とするのだろうか？

03 アメリカの大モデルは検閲時代に突入するのか？

2026年6月、AI産業の歴史において、商業AIモデルとそのユーザーの間に政府が承認者として初めて成功裏に介入したことを示す転換点を示すかもしれない。

ディーン・ボールは『What Should Be Done』の中で警告した：市場がこれにパニックを起こすと、その影響はAI業界自体を超えるだろう：「核エネルギーから天然ガス、電力電子に至るまで、アメリカの再工業化に対する多くの投資は、明示的または暗黙的にAI産業の未来の需要を前提としている。この需要が政府の規制によって実現できない場合、連鎖反応は人々が想像する以上に広がるだろう」。

しかしボールも認めている：方向性が全く間違っているわけではない：「最前線のAIには確かに壊滅的なリスクの可能性がある。この懸念は偽造されたものではない。問題は実行方法であり、技術専門家がいない、明確な基準がない、タイムテーブルがない承認プロセスは解決策ではない」。

OpenAIはGPT-5.6の制限は「短期的な措置」であり、数週間後には一般に公開される可能性があると言っている。しかし6月27日のMythos 5の「限定的復活」はすでにテンプレートを示しており、全面的に解放されるのではなく、特定のアメリカの機関に限られ、他の制限は引き続き有効である。すべての長期制度は、最初は「短期的な措置」と呼ばれる。

ディーン・ボールは最後に一言を書いた。それはすべての人が真剣に受け止めるべきものである：「もしごく少数の人しか最前線のAIを使用できないなら、悪い未来がより可能性が高くなる。なぜなら、その少数の人々は、すでに巨大な経済的および政治的権力を持つ集団であることが多いからだ」。

おそらく世界中の開発者コミュニティは、時差を無視してOpenAIの発表会に参加し、新モデルの進歩に驚き、さまざまな新しいシナリオをテストするために徹夜していた時代を懐かしんでいる。

しかし、今は中国の最新の大モデルの発表を期待して「待つ」ことができる。