Nghiên cứu viên của Anthropic từ chức, cho rằng năm sau AI có thể mất kiểm soát

Nhà nghiên cứu của Anthropic, Jacob Coxon, đã thông báo từ chức và chuẩn bị rời khỏi ngành AI. Trong ba năm qua, anh đã làm nghiên cứu tiền huấn luyện tại OpenAI và Anthropic. Anh chỉ ra rằng cả hai công ty đều không thúc đẩy AI một cách có trách nhiệm, đang cạnh tranh để tạo ra siêu trí tuệ có thể tiếp tục nâng cao khả năng của chính mình, "đặt cược mạng sống của chúng ta".

Năm nay, anh đã chuyển từ OpenAI sang Anthropic, nguyên nhân là vì công ty sau chú trọng hơn đến an toàn mô hình. Coxon thừa nhận rằng công việc an toàn của Anthropic là nghiêm túc, nhưng cho rằng chỉ cần các công ty còn đang cạnh tranh để tạo ra AGI (trí tuệ nhân tạo tổng quát có thể vượt qua con người trong nhiều nhiệm vụ), thì sự nhượng bộ về an toàn là khó tránh khỏi, và chỉ dựa vào tự quản của một công ty không thể giải quyết vấn đề. Đánh giá của anh về hai công ty là: Nhiều người trong OpenAI vẫn chưa thực sự nhận thức được mức độ rủi ro lớn như thế nào; Anthropic biết về rủi ro, nhưng cho rằng người khác không đáng tin cậy, vì vậy phải tự mình làm ra trước.

Coxon cho biết, một số người làm trong ngành AI tư nhân còn bi quan hơn nhiều so với những gì họ công khai bày tỏ, thậm chí lo ngại rằng AI có thể hủy diệt nhân loại trước khi thập kỷ này kết thúc. Anh tự đánh giá rằng, trong kịch bản cực đoan nhất, AI có thể mất kiểm soát vào cuối năm sau, vì vậy quyết định này không nên chỉ do một vài kỹ sư của các công ty đưa ra.