Cuộc tranh cãi về an toàn mô hình của Anthropic leo thang, Amazon bị chỉ trích là "kẻ đứng sau" kích hoạt sự can thiệp của cơ quan quản lý

ChainCatcher tin tức, theo báo Wall Street Journal đưa tin, chính phủ Mỹ đã áp đặt kiểm soát xuất khẩu và hạn chế truy cập đối với mô hình Fable 5 / Mythos 5 của Anthropic, một phần do nghiên cứu an ninh mạng của Amazon và sự thúc đẩy giao tiếp giữa CEO AWS Andy Jassy và Nhà Trắng.

Theo thông tin, nghiên cứu mà Amazon đã nộp chỉ ra rằng thông qua một loạt các từ gợi ý, các nhà nghiên cứu có thể kích thích Fable 5 xuất ra thông tin nhạy cảm có thể được sử dụng cho các cuộc tấn công mạng, từ đó gây ra lo ngại về an ninh. Sau đó, Andy Jassy đã báo cáo các phát hiện liên quan lên chính phủ Mỹ, thúc đẩy Nhà Trắng thực hiện các biện pháp hạn chế hơn nữa, bao gồm cấm người dùng nước ngoài truy cập vào mô hình này.

Đồng thời, cựu quan chức Bộ Thương mại Mỹ Kate Koren tiết lộ rằng lập trường chính sách hiện có của Nhà Trắng đối với Anthropic cũng có thể đã ảnh hưởng đến quyết định này, vì Anthropic có sự khác biệt với Nhà Trắng về vấn đề ranh giới an toàn AI, bao gồm việc từ chối sử dụng mô hình cho giám sát quy mô lớn hoặc hệ thống vũ khí tự động gây chết người. Mặc dù hai bên đã từng giảm bớt căng thẳng và mở rộng hợp tác vào đầu năm nay, nhưng sự kiện này có thể lại làm gia tăng căng thẳng giữa hai bên.