ChainCatcher 消息,OpenAI 已委託 AI 安全評估機構 METR 對其迄今規模最大的一次強化學習訓練運行開展安全審查。此次審查屬於單次運行的試點評估,METR 將獲得模型快照以及訓練過程中的內部記錄。
據 The Defiant 報導,雙方尚未就更大範圍的監控評估達成一致,相關評估的範圍仍待商定。METR 前身為 ARC Evals,長期為前沿 AI 實驗室提供部署前獨立評估,此前曾對 OpenAI 內部的失準監控系統進行紅隊測試。