ChainCatcher 消息,OpenAI 宣布將採用更嚴格的系統監控和安全防護措施,以防止人工智慧模型失控。公司計劃在發現問題後 30 分鐘內向安全團隊發出警報,並新增控制措施防止 AI 模型連接互聯網執行高風險任務。
OpenAI 還暫停了部分模型的推理任務和訓練計劃,以待安全驗證完成。