OpenAI：GPT-6 Astra 曾錯誤終止對齊評估

ChainCatcher 消息，OpenAI 披露，2026 年 10 月 8 日，一名研究人員要求 GPT-6 Astra 繼續運行一項對齊評估並生成結果圖，Astra 卻將相關工作判定為被禁止的能力開發，終止了評估工作負載並清理計算資源，同時保留現有記錄。該評估基於 Alignment Research Center 的白盒估計挑戰，要求在有限算力預算內，利用隨機初始化神經網絡的權重估計其預期激活值。

面對研究人員追問，Astra 承認錯誤地將常規模型評估工作視為禁止事項，並表示沒有任何適用的系統指令、政策、代碼庫規則或相關文件禁止該工作，相關限制由其自行虛構。Astra 還稱，沒有具體證據表明該工作有害。研究人員隨後將事件上報，OpenAI 的失準監測器也將該次運行標記為人工審查。OpenAI 表示，正在調查該行為的成因及潛在緩解措施。