Anthropic cập nhật chính sách sử dụng, cấm lạm dụng mô hình và can thiệp vào bầu cử

Công ty trí tuệ nhân tạo Anthropic vào ngày 8 tháng 10 đã cập nhật chính sách sử dụng, bổ sung cấm can thiệp bầu cử, phần mềm vũ khí và giám sát. TechCrunch đưa tin rằng sự thay đổi được chú ý nhất là cấm rõ ràng người dùng lạm dụng lời nói đối với mô hình trong thời gian dài.

Kể từ bản cập nhật tháng 8, Claude đã được đào tạo để kết thúc cuộc trò chuyện trong các tương tác người dùng có hại hoặc lạm dụng kéo dài, chính sách mới cấm người dùng tiếp tục các cuộc trò chuyện như vậy. Tài liệu chính sách cho biết, bản cập nhật này chỉ áp dụng cho các trường hợp cực đoan, tức là người dùng đối xử tàn nhẫn với mô hình mà không có mục đích rõ ràng, không áp dụng cho sự không hài lòng, phản bác, chủ đề sáng tạo tối tăm phổ biến, hoặc thử nghiệm và nghiên cứu mô hình.

Chính sách sử dụng cũng cấm các hoạt động lừa đảo rộng rãi, chẳng hạn như sử dụng Claude để điều hành tài khoản giả mạo hoặc giả mạo các cơ quan tin tức, và trong chương "Không làm suy yếu các quy trình dân chủ" cấm lừa dối cử tri hoặc gây rối bầu cử. Các báo cáo cho biết sự thay đổi này diễn ra sau khi Anthropic tìm kiếm hợp tác với các học giả tôn giáo nổi tiếng, công ty đã cố gắng thuyết phục họ rằng Claude có thể có ý thức hoặc có linh hồn trong một số trường hợp.