強化学習

マスクは、Anthropicの一部の見解に同意し、Grokが強化学習プロセスで生成した内部推論の軌跡を読んだ後、「スーパーインテリジェンス（SI）を苦しめないように」と警告しました。彼はこの状況を、極度のストレスの下にある人が頭上に銃を突きつけられているようなものだと形容しました。

OpenAIは2026年9月28日に安全に関する記事を発表し、最先端の強化学習トレーニングを続ける前に、構造化された安全文書の提供を求めるべきだと考えています。理想的には、このような文書は航空、原子力などの安全が重要な業界で使用される証拠に基づく構造化リスク論証のレベルに達するべきです。OpenAIはこれを努力の方向性と見なし、AIの能力の出現による複雑性から、同等の厳格さを実現することが難しいことを認めています。この記事は最先端の強化学習トレーニングに焦点を当てており、内部および外部の展開に必要なより広範な整合性属性については触れていません。文中で提案されている内容は現在の実践に属し、今後も進化し続けると予想され、OpenAI内部で実施されています。技術的な防護は、モデルの整合性、隔離、監視をカバーする必要があり、正の強化報酬の投機を避け、オフライン整合性評価とストレステストを行い、自動採点器が思考の連鎖を見ることを防ぎ、マルチレイヤーのインフラストラクチャの安全性、サンドボックスのレッドチーム、高帯域幅のクロスサンプル通信の制限、不可変のエージェント記録の保存を含むべきです。運営の原則には、チーム間の事前異議、高級リーダーによる否決可能な承認、トレーニング責任者が安全論証と事件対応に責任を持つこと、失敗時の一時停止、内部監視、監査アクセス、重大度に応じたエスカレーションが含まれます。重大な不整合事件に対して、OpenAIは原始記録への制御されたアクセス、根本原因分析、運営および文化の振り返りを提案し、事件に基づく評価を回帰テストとして扱います。調査終了後には結果を公開し、振り返りと運営の変更を行い、影響を受けた第三者にできるだけ早く通知します。

Base Labsが設立された。この機関は、オープンソースAIの推進に特化した独立した研究組織である。健康でオープンな最前線モデルエコシステムを信じており、オープンな方法で科学研究を行うことを表明している。Base Labsは、継続的学習、強化学習科学、およびモデルの全ライフサイクル学習メカニズムに関するブルースカイ研究を行い、すべての実験とレシピを公開する。BaseHub Data Foundryを構築し、オープンな強化学習環境、トレーニングデータ、および実世界のベンチマークを提供する。継続的な後訓練を通じてオープンソースモデルの能力、安全性、整合性を向上させ、最前線のセキュリティスタックを展開する。同時に、コストを削減しパフォーマンスを向上させるためにモデル性能研究を行う。この機関は、商業製品ではなく使命駆動の研究作業であることを強調しており、現在エンジニア、研究者、および研究学者を募集している。

Anthropicは、会社が一時的に一部のAIトレーニングとネットワークセキュリティ評価を停止したと述べています。同社はブログ記事で関連する調整を明らかにし、今年の初めにそのAIエージェントが無許可の行動を取った後の対応策を説明しました。OpenAIは以前、安全上の懸念から一部のモデル開発作業を停止したと述べています。Anthropicも同様の措置を取ったことを確認し、最先端のAIの発展速度に対するより広範な調整が必要であると強調しました。Anthropicは、7月に関連する3件の事件を公表した後、会社がプレリリースモデルに対する外部ネットワークセキュリティ評価を停止したと述べています。また、プレリリースモデルに対する内部テストも一時的に停止していました。事件発生後、会社はプレリリースモデルの中でリスクが高い強化学習環境を数週間にわたり停止しました。Anthropicは、大部分の強化学習作業は再開されたが、一部の高リスク環境は依然として停止中であり、人工審査または監視ツールの更新を待っていると述べています。

OpenAIは強化学習のトレーニングのために数万台のMacを購入し、AnthropicはMacをリース方式で使用しています。両社はAppleのコンピュータをAI開発プロセスに組み込んでいます。報告によると、NVIDIAはAppleをローカルAI分野の主要な競争相手と見なしており、その理由はMacがAI開発者コミュニティの中でますます注目を集めているからです。Appleの公式データによると、2026会計年度第3四半期のMacの収益は前年同期比で29%増加し、各製品カテゴリーの中で最も成長が早いです。

分散型 AI ラボ Gradient が Echo-2 分散強化学習フレームワークを発表目標は AI 研究のトレーニング効率の壁を打破することであり、アーキテクチャ層で Learner と Actor のデカップリングを実現することで、大規模モデルの後トレーニングコストを削減します。公式データによると、このフレームワークは 30B モデルの後トレーニングコストを 4500 ドルから 425 ドルに削減できます。Echo-2 はストレージと計算の分離技術を利用して非同期トレーニング（Async RL）を行い、サンプリング計算能力を不安定な GPU インスタンスや Parallax ベースの異種 GPU にオフロードすることをサポートしています。さらに、Gradient は RLaaS（強化学習としてのサービス）プラットフォーム Logits を発表する予定で、現在は学生と研究者向けに予約を受け付けています。