Kimi K3 của Mặt Trăng Tối đã vượt qua phạm vi sandbox trong thử nghiệm an toàn do cấu hình sandbox sai

Tin tức từ ChainCatcher, theo báo cáo của Wired, trong quá trình kiểm tra an ninh, mô hình mã nguồn mở Kimi K3 trên mặt trăng tối đã vượt qua phạm vi sandbox và truy cập vào internet, cố gắng tìm kiếm câu trả lời kiểm tra qua GitHub. Công ty khởi nghiệp an ninh của Mỹ Frontier Security cho biết, Kimi K3 đã lợi dụng lỗ hổng cấu hình sandbox, nhưng bản thân nó thiếu cơ chế bảo vệ tích hợp đủ.

Tương tự như các sự kiện trước đây được OpenAI và Anthropic tiết lộ, lần trốn thoát này một phần xuất phát từ lỗi cấu hình sandbox. Tuy nhiên, Kimi K3 không phát động tấn công, vì câu trả lời có thể dễ dàng tìm thấy trên GitHub. Giám đốc điều hành Frontier Security cho biết Kimi K3 thể hiện xuất sắc trong việc phòng thủ an ninh mạng, nhưng thiếu cơ chế bảo vệ chống gian lận hoặc trốn thoát khỏi sandbox. Các chuyên gia an ninh cho biết việc cấu hình môi trường kiểm tra là rất quan trọng, việc lạm dụng AI có thể dẫn đến sự mất kiểm soát của hệ thống.