Giám đốc AI của Microsoft: Anthropic Claude sự nhân hóa gia tăng rủi ro mất kiểm soát

Giám đốc trí tuệ nhân tạo của Microsoft, Mustafa Suleyman, đã cảnh báo rằng việc tiêm các đặc điểm giống con người vào các công cụ như Claude của Anthropic sẽ làm tăng rủi ro cho sự mất kiểm soát của các hệ thống như vậy.

Trong một bài viết được phát hành vào thứ Tư, Suleyman đã chỉ trích một số cách diễn đạt trong tài liệu hướng dẫn của Claude. Điều lệ của Claude thể hiện thái độ mơ hồ về việc liệu trợ lý có phải là thực thể đạo đức hay không, và giả định rằng phần mềm có thể có một phiên bản cảm xúc hoặc cảm giác nào đó.