Anthropic Liên sáng lập: Mã nguồn mở AI tồn tại nguy cơ lạm dụng không thể đảo ngược, hoặc đi vào con đường nguy hiểm

ChainCatcher tin tức, theo báo cáo của Bitcoin News, đồng sáng lập và Giám đốc điều hành của Anthropic, Dario Amodei, đã nói với các nhà lập pháp tại Quốc hội Hoa Kỳ rằng sự phát triển AI mã nguồn mở đang bước vào "con đường rất nguy hiểm", một khi các mô hình AI mạnh mẽ được phát hành dưới dạng mã nguồn mở, các nhà phát triển sẽ mất khả năng giám sát hiệu quả việc sử dụng mô hình, bao gồm không thể theo dõi hành vi lạm dụng, thu hồi quyền truy cập hoặc cập nhật động các cơ chế bảo vệ an toàn, từ đó làm tăng rủi ro tiềm ẩn.

Dario Amodei cho biết, so với hệ thống mô hình đóng, mô hình hoàn toàn mở khó thực hiện kiểm soát liên tục trong quản trị an toàn, có thể mang lại nguy cơ lạm dụng không thể đảo ngược.