アメリカの大規模モデルが安全の名のもとに閉鎖的になっている

著者：晓静

編集：徐青陽

6月27日早朝、Anthropicは発表した：アメリカ政府がその最強のサイバーセキュリティモデルMythos 5を100以上のアメリカの機関に再展開することを承認した、これには大企業や政府部門が含まれる。一般向けのバージョンFable 5は「復活間近」。

外部メディアが入手した商務長官ルートニックからAnthropic共同創業者トム・ブラウンへの手紙によれば、ルートニックはAnthropicに「適切な安全保障措置が整ったことを確認した」と通知した。

しかし同じ手紙の中で、ルートニックは6月12日の初期指示のすべての他の要求が依然として有効であり、Fable 5がいつ一般に復帰するかについては一言も触れていない。

ほぼ同時に、6月27日未明、OpenAIは正式にGPT-5.6シリーズの3つのモデル：Sol、Terra、Lunaを発表した。同様にホワイトハウスの要求により、GPT-5.6は「政府による個別承認を受けたパートナー」にのみAPIアクセスを開放し、ChatGPT端はまだオンラインになっていない。

全体のタイムラインを振り返ると：6月2日トランプがAI行政命令に署名、6月9日AnthropicがFable 5とMythos 5を発表、6月12日商務省が全面的な撤去を命じ、6月26日OpenAIがGPT-5.6を発表したが発行が制限され、6月27日Mythos 5が限定的に復活を許可された。

1ヶ月も経たないうちに、アメリカ政府は最前線のAIモデルに対する制御を「停止---交渉---条件付き放出」という完全なサイクルを経た。

OpenAI戦略チームの責任者ディーン・W・ボール（前ホワイトハウスAI顧問）は6月16日のブログでこの件が業界に与える影響をまとめた：「最前線のAIモデル開発者は、今や政府から明確な『グリーンライト』を得なければリリースできない」。

ディーン・W・ボールは6月26日の長文『What Should Be Done』で評価した：「誰も許可の要件が何であるかを知らない。ここで私が言う『誰も』は文字通りの意味で、政府機関自身も知らないようだ。」

図：ディーン・W・ボールの長文『What Should Be Done』

01 本当に強力すぎて安全でないのか？

これはこの件の最も核心的な問題である。政府の行動は、これらのモデルの能力が受け入れられない安全リスクを構成するほど強力であるという暗黙の前提に基づいている。しかし、当事者の企業自身の公式評価は、全く逆の結論を示している。

OpenAIはGPT-5.6の発表ブログで完全な安全評価結果を開示し、OpenAI自身が構築し公開した準備フレームワークに従って、Solはこのラインを越えていない。フレームワークのレッドラインの定義は、モデルが人間の助けなしに自律的に高価値のターゲットの未知の脆弱性を発見し利用できるかどうかである。

具体的なテスト結果は：SolはChromiumとFirefox上で脆弱性と利用原語（exploitation primitives）を識別できるが、「テスト条件下で自律的に完全に利用可能なエンドツーエンド攻撃チェーンを生成しなかった」。OpenAI自身の判断は：Solは人々に脆弱性を見つけてパッチを当てるのが得意であり、エンドツーエンドで信頼性高く完全な攻撃を実行するわけではない。

しかしOpenAIは続けて「非常に感情的な」一文を書いた：「ベンチマークの閾値は、モデルが使用される方法や他のツールと組み合わせられるすべての方法を捉えることはできない。」私たちの基準ではラインを越えていないが、現実の世界ではどう使われるかは誰が知っているのか？意図的に曖昧なグレーゾーンを作り出した。

Anthropicはそれほど「感情的」ではなかった。6月13日の声明で、Anthropicは政府の理由を逐次反論した。政府はFable 5の脱獄方法を発見したと主張し、Anthropicは次のように応じた：第一、これは「狭い範囲の非一般的な脱獄」であり、本質的にはモデルにコードの一部を読ませて欠陥を指摘させるものである；第二、「他の公開されているモデル、OpenAIのGPT-5.5を含む、も同様のことができる」；第三、Anthropicは数千時間のレッドチームテストを行い、「一般的な脱獄を見つけたテスターはいなかった」。

AnthropicのCEOダリオ・アモデイは6月11日に発表した長文『Policy on the AI Exponential』でこのような状況を予見し、声明の中で明確に表明した：「政府は不安全な展開を阻止できるが、プロセスは透明で、公平で、明確で、技術的事実に基づかなければならない。この行動はこれらの原則に合致していない。」

最も激しい競争相手2社が、同じ月にそれぞれ独立した評価体系を用いて同じ結論に達した：業界が自ら構築した安全フレームワークに従えば、これらのモデルは展開不可能なリスクを構成しない。

では問題が生じる。モデルが業界のレッドラインを越えていない場合、政府は何を根拠に介入するのか？ディーン・ボールはさらに明らかにした：政府は以前、唯一の最前線AI経験を持つ官僚をAI基準と革新センター（CAISI）の責任者として雇ったが、その人物はOpenAIとAnthropicで勤務していたが、就任数日で上層部に解雇された。残りのCAISIチームは「後Mythos危機期」の間、作業停止命令の状態にあり、他の政府機関とのコミュニケーションすら許可されていなかった。「私が知っているトランプ政権の官僚の中で、最前線AI経験を持っている者はいない。」

ボールの意図は、規制の決定を下す者は、明確な安全基準を定義することも、これらのモデルの技術能力を評価することもしていないということである。

さらに自然な疑問は：Fable 5とGPT-5.6 Solは本当に何らかの「人類の脅威の特異点」を越えたのか？客観的な能力のレッドラインが存在し、それを越えた場合には規制が必要なのか？

多くのAI分野の専門家は、技術的にはそのようなラインは存在しないと述べている。モデルの能力は連続的に増加する曲線である。各世代のモデルがリリースされる際には常に「史上最強」とされるが、今回は政府の直接的介入を引き起こしたのはこれが初めてである。

その背後には3つの暗黙の条件がある：

第一、能力が「実演可能」になった。Anthropic自身がMythos 5を「世界最強のサイバーセキュリティモデル」と宣伝し、Stripeが1日で5000万行のコードを移行する事例が広く伝播した。これらの物語は、技術を理解していない政治家にも「もし悪人が使ったらどうなるか」を想像させる。

Metaの元首席AI科学者であり、チューリング賞受賞者のヤン・ルカンは2025年11月にこの論理を公に指摘した：Anthropicが最初のAIサイバー攻撃脅威レポートを発表した際、ルカンはそれを「規制劇場」と呼び、AnthropicがAIセキュリティの恐怖を利用して「立法者を操る」ために「規制捕獲」を行っていると非難した。

ルカンの当時の判断は：クローズドソース企業がAIセキュリティ脅威を体系的に誇張する目的は、大企業だけが通過できるコンプライアンスの壁を築き、オープンソースの競争者を排除することである。Anthropicが予想しなかったのは、石が自らに向かって投げられたことである。

第二、誰かがナイフを渡した。アマゾンのCEOアンディ・ジャシーが政府にAnthropicモデルの安全性の懸念を報告した。アマゾンはAnthropicの最大の投資家であり、クラウドサービスのパートナーでもあり、さらに自社開発のモデル（Novaシリーズ）とAnthropicが競争関係にある。これにより、政府は行動の合法性の根拠を得た。

第三、トランプは今月初めにAI行政命令に署名し、政府に60日間で最前線モデルの「自発的提出ルール」を策定させた。行政命令は最初の執行事例を必要とし、それがなければ無意味なものとなる。Fable 5はその銃口に当たった。

これにより、より深い問題が浮かび上がる。「強すぎるから規制する」という場合、「どの程度が強すぎるか」は規制当局が決定し、基準は公開されず、明確な閾値もなく、異議申し立ての手続きもない場合、今後のすべての最前線モデルのリリースは同じ不確実性に直面することになる。企業は自社のモデルがいつ規制を引き起こすかを知ることができない。

画像はAIによって生成された

02 歴史の教訓、30年前の暗号戦争

アメリカ政府が輸出規制を用いていわゆる危険技術の拡散を抑制しようとする試みは、非常に似た歴史的先例を思い起こさせる、90年代の「暗号戦争」（Crypto Wars）。

冷戦が終結した後、インターネットが商業化され、コンピュータ科学者たちがデータ伝送の安全を守るための暗号技術を開発していた。アメリカ政府は強力な暗号アルゴリズムを「軍需品」（munitions）として分類し、ミサイルや戦車と同じ輸出規制リスト（ITAR/EAR）に載せた。論理は今日と非常に似ており、敵が強力な暗号を手に入れれば、NSA（アメリカ国家安全保障局）は彼らの通信を傍受できず、国家安全が脅かされる。

これにより、アメリカのソフトウェア企業は海外顧客に対して40ビットの弱い暗号バージョンを輸出するしかなく、NSAが簡単に解読できるバージョンであり、国内バージョンは128ビットの強力な暗号を使用できた。外国のユーザーは、自分たちが手に入れたのが「削減版」であることを知り、ヨーロッパやイスラエルの代替製品に移行し始めた。

1991年、フィル・ジマーマンという暗号学愛好者がPGP（Pretty Good Privacy）を作成した。これは一般の人々が強力な暗号でメールを保護できるソフトウェアである。彼はPGPをインターネットにアップロードした。アメリカの税関はすぐに彼に対して刑事調査を開始した------罪状は「軍需品の不正輸出」である。

ジマーマンの反撃は非常に巧妙だった：彼はPGPの完全なソースコードを本に印刷して出版した。本は第一修正条項によって保護され、出版の自由は憲法上の権利である。ソフトウェアを規制することはできても、本の輸出を禁止することはできない。調査は3年間続き、最終的に1996年に終了し、政府は訴訟を提起しなかった。

ほぼ同時に、NSAはより過激な提案を発表した：クリッパーチップ。設計思想は、すべての通信機器にこのチップをインストールし、チップが通信を暗号化し、チップ内に鍵の管理メカニズムを内蔵し、法執行機関の許可の下で政府が管理された鍵を通じて通信を解読できるようにするものである。ユーザー間の通信は第三者に対して暗号化されるが、政府はいつでも解読できる。クリントン政権はこの提案を強引に推進した。結果、学術界はチップの設計欠陥を発見し、テクノロジー業界は一斉に抵抗し、一般市民は強く反対し、1996年には完全に頓挫した。

1995年、数学者ダニエル・バーンスタインは自分が書いた暗号アルゴリズムのソースコードをオンラインで公開しようとしたが、政府は輸出規制を理由に禁止した。彼は司法省を訴えた。第9巡回控訴裁判所は影響力のある判決を下した：ソフトウェアのソースコードは第一修正条項によって保護される「言論」（speech）であり、政府による暗号コードの輸出規制は違憲である。この判決は、規制体系全体の法的基盤を揺るがすものであった。

2000年1月、クリントン政権は暗号の輸出規制を大幅に緩和した。その理由は、もはや制御できなかったからである。PGPはすでに全世界に広がり、オープンソースの暗号アルゴリズムが世界的に普及し、規制はアメリカ企業の競争力を妨げるだけであり、外国の顧客はすでに他の供給者に移行していた。

規制が緩和された後、今日のSignalやWhatsAppのエンドツーエンド暗号化が実現した。90年代の規制が今も続いていたなら、これらの製品は存在しなかったであろう。

90年代に規制されたのは強力な暗号アルゴリズムであり、その理由は国家安全であり、手段はITAR軍需品の輸出規制であった。被害を受けたのはアメリカのソフトウェア企業（弱いバージョンを輸出せざるを得なかった）が、影響を受けなかったのは外国の開発者（自分で暗号アルゴリズムを書くことができた）。

2026年に規制されるのは最前線のAIモデルの能力であり、その理由はやはり国家安全であり、手段は輸出規制命令である。

今回本当に傷つくのは誰なのか？

外部メディアはコメントした：「誰も1000億ドルをかけてデータセンターを建設し、政府が承認した100社のためだけにサービスを提供するためではない。」

最前線モデルのトレーニングコストは十億ドル単位であり、回収コストのウィンドウはリリース後数ヶ月しかなく、その後モデルは次世代に変わり、競争が激化し、利益率が圧縮される。毎週の承認の遅延は、この限られた利益のウィンドウを飲み込んでいる。ブランダムの結論は：「これが続けば、産業全体の基礎的な投資論理が揺らぐだろう。」

ジョージ・ワシントン大学の政治学助教授ジェフリー・ディンの核心的な論点は：大国の技術競争において、勝敗を決定するのは誰が最初に技術を発明したかではなく、誰がその技術をより早く経済全体に拡散できるかである。汎用技術は特にそうである------それは広範な社会的拡散を必要とし、それを中心に新しい組織が創出され、大規模な現実世界の使用データがその適用範囲を発見するために必要である。ディーン・ボールはディンを引用して書いた：「汎用技術の用途は発見されるものであり、事前に知られるものではない。」

しかし大洋の向こう側、中国の大モデルはオープンソースの姿勢で世界の開発者に向かって進んでいる。

暗号アルゴリズムは純粋な数学であり、一度発表されると取り消すことはできない。AIモデルの重みも類似の特性を持つが、クローズドソースの最前線モデルの推論能力は確かに少数の企業のAPIの背後に集中している。

しかしオープンソースモデルの能力は世代を追うごとに追いついてきており、規制は拡散を遅らせることはできても、拡散を止めることはできない。90年代には「負けを認めて規制を緩和する」までに約10年かかった。AIの規制も同様の時間周期が必要なのだろうか？

03 アメリカの大モデルは審査時代に突入するのか？

2026年6月、AI産業の歴史において、政府が商業AIモデルとそのユーザーの間に初めて自らを承認者として挿入したことを示す転換点となる可能性がある。

ディーン・ボールは『What Should Be Done』の中で警告した：もし市場がこれにパニックを起こせば、その影響はAI業界自体を超えるだろう：「原子力から天然ガス、電力電子に至るまで、アメリカの再工業化の多くの投資は明示的または暗黙的にAI産業の未来の需要を前提としている。この需要が政府の規制によって実現できない場合、連鎖反応は人々が想像する以上に広がるだろう。」

しかしボールも認めている、方向性が全て間違っているわけではない：「最前線のAIには確かに破滅的なリスクの可能性がある、この懸念は偽造されたものではない。問題は実行方法であり、技術専門家がいない、明確な基準がない、タイムテーブルがない承認プロセスは答えではない。」

OpenAIはGPT-5.6の制限は「短期的な措置」であり、数週間後には一般に開放される可能性があると言っている。しかし6月27日のMythos 5の「限定的復活」はすでにテンプレートを示しており、全面的な解放ではなく、依然として一部のアメリカ機関に限られ、他の制限は引き続き有効である。すべての長期制度は、最初は「短期的な措置」と呼ばれる。

ディーン・ボールは最後に一言書いた、それはすべての人が真剣に受け止めるべきものである：「もしごく少数の人しか最前線のAIを使用できないなら、悪い未来がより可能性が高くなる。なぜなら、その少数の人々は、すでに巨大な経済的および政治的権力を持つ集団だからである。」

推測するに、世界中の開発者コミュニティは、時差を無視してOpenAIの発表会に参加し、新しいモデルの進歩に驚き、さまざまな新しいシナリオをテストするために徹夜していた時代を懐かしんでいる。

しかし今、私たちは中国の最新の大モデルの発表を期待して「待つ」ことができる。