OpenAI: Trước khi đào tạo tăng cường tiên tiến, cần nộp chứng minh an toàn

OpenAI vào ngày 28 tháng 9 năm 2026 đã phát hành một bài viết về an toàn, cho rằng trước khi tiếp tục bất kỳ đào tạo tăng cường học sâu nào, cần yêu cầu cung cấp tài liệu an toàn có cấu trúc. Lý tưởng nhất, các tài liệu này nên đạt được mức độ lập luận rủi ro có cấu trúc dựa trên bằng chứng được sử dụng trong các ngành công nghiệp an toàn quan trọng như hàng không, năng lượng hạt nhân. OpenAI coi đây là một hướng đi, đồng thời thừa nhận rằng do sự phức tạp của khả năng AI nổi lên, rất khó để đạt được sự nghiêm ngặt tương đương.

Bài viết tập trung vào đào tạo tăng cường học sâu tiên tiến, không bao gồm các thuộc tính căn chỉnh rộng hơn cần thiết cho việc triển khai nội bộ và bên ngoài. Nội dung trong bài viết đề xuất thuộc về các thực tiễn hiện tại, dự kiến sẽ tiếp tục phát triển và đang được thực hiện trong OpenAI. Các biện pháp bảo vệ công nghệ nên bao gồm căn chỉnh mô hình, cách ly và giám sát, bao gồm việc tránh đầu cơ phần thưởng tăng cường tích cực, đánh giá căn chỉnh ngoại tuyến và thử nghiệm áp lực, không để bộ chấm điểm tự động thấy chuỗi suy nghĩ, cũng như an toàn cơ sở hạ tầng đa lớp, đội đỏ trong hộp cát, hạn chế giao tiếp giữa các mẫu băng thông cao và lưu trữ hồ sơ tác nhân không thể thay đổi.

Các nguyên tắc vận hành bao gồm sự phản đối trước giữa các đội, phê duyệt có thể bị hủy bởi lãnh đạo cấp cao, người phụ trách đào tạo chịu trách nhiệm về lập luận an toàn và phản ứng sự cố, cũng như tạm dừng khi xảy ra sự cố, giám sát nội bộ, truy cập kiểm toán và nâng cấp theo mức độ nghiêm trọng. Đối với các sự cố lệch lạc nghiêm trọng, OpenAI đề xuất truy cập có kiểm soát vào hồ sơ gốc, phân tích nguyên nhân gốc, xem xét hoạt động và văn hóa, và coi đánh giá phát sinh từ sự cố như một bài kiểm tra hồi quy; công bố kết quả sau khi điều tra kết thúc, xem xét lại và thay đổi hoạt động, và thông báo nhanh chóng cho các bên thứ ba bị ảnh hưởng.