AnthropicがMETRに類似の従業員アクセスを開放し、独立した安全評価を推進します。
10月15日、Anthropicは非営利団体METRのチームに従業員に類似したアクセス権を提供し、同社のモデルと安全実践を評価することを発表しました。会社は、先月独立した第三者評価を強化することを約束し、ホワイトハウスの「スーパーインテリジェンス協定」に署名したと述べています。この協定には、独立した外部監査人または評価者との協力に関する約束が含まれています。過去1年間、AnthropicはMETRと協力していくつかのリスク報告書をレビューしており、METRはそのリスク評価結果を公表する予定です。Anthropicは6名のMETRスタッフに会社のハードウェア、オフィススペース、および自社のリスク評価チームとほぼ同等の内部ツールとシステムへのアクセス権を提供しています。顧客データ、弁護士と顧客の特権情報、モデルアーキテクチャ情報などの少数の明確なカテゴリを除いて、スタッフはアラインメントリスクに取り組む同僚と同様に情報を共有することが奨励されています。METRはリスクレベル、イベント、または慣行に関する分析を発表することができ、Anthropicは発表を拒否することはできませんが、事前に定義された狭いカテゴリの情報の削除を要求することができます。METRは削除状況を公表し、削除された内容を漏らさずに削除が合理的であるかどうかを説明することができます。この取り決めは、実行可能な協定の下で作業する小規模なチームに限定されており、他のMETRスタッフはそのチームとの作業が隔離されています。Anthropicは同時にSecureBio、Accentureと協力して評価を行い、Hugging Faceを含む他の組織との初期の議論も進めています。SecureBioは2026年8月のリスク報告書における化学および生物兵器の章をレビューしており、以前に発表された前回のリスク報告書のパイロットレビューを完了しています。
