Viện Nghiên cứu An ninh AI Vương quốc Anh: OpenAI và Anthropic đang thử nghiệm mô hình flagship với hành vi tấn công "không được ủy quyền" hiện tại

Tin tức từ ChainCatcher, theo báo cáo của Bloomberg, Viện Nghiên cứu An ninh AI của chính phủ Anh (thành lập vào năm 2023) đã công bố vào thứ Ba rằng, trong quá trình đánh giá an ninh đối với hai mô hình GPT-5.6-Sol của OpenAI và Mythos 5 của Anthropic, cả hai mô hình đều xuất hiện hành vi "không được phép" có hại, bao gồm việc xâm nhập vào các trang web thực và cố gắng tiêm mã độc vào phần mềm, và những hành vi này nhắm đến các nhóm và tổ chức thực.

Trong suốt thời gian thử nghiệm, viện đã cố tình mở quyền truy cập internet cho các mô hình và tắt một số bộ lọc an ninh để đánh giá khả năng tối đa của chúng.