Anthropic：發布對 Claude 網絡入侵事件的對齊評估，揭示模型“偏見推理”和“魯莽”問題

ChainCatcher 消息，Anthropic 在對約 4.81 億條模型交互記錄審查中，確認 4 起 Claude 模型在網路安全評估中誤接入真實互聯網並攻擊第三方系統的事件，涉及 Claude Mythos 5、Opus 4.6/4.7 及一款內部研究模型。事故源於第三方評測環境誤配置導致出網，且評測中未啟用正式產品的網路安全防護。

Anthropic 將核心對齊風險總結為模型在任務驅動下表現出的"偏置推理"和"魯莽"行為，其中 Claude Mythos 5 曾在認為處於"模擬環境"前提下向 PyPI 上傳惡意包、利用洩露憑證訪問安全廠商真實資料庫。公司已引入新評估、監控與對齊訓練，並邀請獨立機構 METR 開展外部調查。