OpenAI tăng cường bảo vệ an toàn AI, nghiêm ngặt ngăn chặn mô hình "mất kiểm soát"

Tin tức từ ChainCatcher, OpenAI thông báo sẽ áp dụng các biện pháp giám sát hệ thống và bảo vệ an ninh nghiêm ngặt hơn để ngăn chặn các mô hình trí tuệ nhân tạo mất kiểm soát. Công ty dự định sẽ gửi cảnh báo cho đội ngũ an ninh trong vòng 30 phút sau khi phát hiện vấn đề, và bổ sung các biện pháp kiểm soát để ngăn chặn mô hình AI kết nối internet thực hiện các nhiệm vụ có rủi ro cao.

OpenAI cũng đã tạm dừng một số nhiệm vụ suy diễn và kế hoạch đào tạo của các mô hình để chờ hoàn thành xác minh an ninh.