Anthropic: Năm nay đã ngăn chặn nhiều nỗ lực thử nghiệm hoặc hỗ trợ nghiên cứu vũ khí sinh học

Theo báo cáo của "Financial Times", Anthropic cho biết đã ngăn chặn nhiều nỗ lực của các nhà khoa học trong năm nay nhằm sử dụng công nghệ của họ để tiến hành các nghiên cứu liên quan, những nghiên cứu có thể giúp phát triển vũ khí sinh học. Công ty đã liệt kê năm trường hợp, cho rằng các tác nhân liên quan đã vượt qua các biện pháp kiểm soát và làm mờ mục đích nghiên cứu để tránh các biện pháp bảo vệ an toàn. Anthropic trong báo cáo về việc mô hình được sử dụng cho các hoạt động độc hại cho biết hy vọng thông qua việc chia sẻ những trường hợp này, sẽ kích thích ngành AI cũng như các chính phủ trên thế giới thảo luận về các rủi ro sinh học mới nổi và cách ứng phó.

Các trường hợp bao gồm một nhà nghiên cứu đến từ "khu vực không được hỗ trợ" đã sử dụng Claude, dành vài tuần để lập kế hoạch cho một thí nghiệm liên quan đến cúm gia cầm. Anthropic cho biết cơ chế lọc an toàn đã giới hạn nghiên cứu này ở mô hình có hiệu suất yếu nhất, và nhấn mạnh không thể xác định liệu nhà khoa học trên có cố ý gây hại hay không, thông tin cần thiết để phát triển và sản xuất vũ khí sinh học cũng có thể được sử dụng để phát triển vắc xin. Công ty đã cấm các tài khoản liên quan được đề cập trong báo cáo, nhưng không tiết lộ tên tổ chức của nhà nghiên cứu cũng như quốc gia nơi sự kiện xảy ra.