Người phụ nữ Florida viết nhật ký bằng Claude, sau khi được Anthropic kiểm tra đã báo cảnh sát

Theo báo cáo của Decrypt, một phụ nữ tên Carli Michelle Heller ở Bonita Springs, Florida, Hoa Kỳ đã bị bắt vì sử dụng Claude như một cuốn nhật ký. Các điều tra viên cho biết, cô đã viết nội dung "bắn súng" vào văn phòng cảnh sát quận Lee vào ngày 26 tháng 9, và vào ngày hôm sau lại tuyên bố rằng mình đã có một khẩu súng mới. Hệ thống an ninh của Anthropic đã đánh dấu những cuộc trò chuyện này vì nội dung nghiêm trọng, và nền tảng đã chuyển giao cho đội ngũ kiểm tra thủ công xử lý, đội ngũ này đã báo cáo cho các cơ quan thực thi pháp luật. Cảnh sát đã xác định Heller dựa trên thông tin này, đến nhà cô và bắt giữ cô, cô bị buộc tội đưa ra mối đe dọa bạo lực bằng văn bản, vụ án dự kiến sẽ được xét xử vào tháng 11.

Các điều khoản dành cho người tiêu dùng của Anthropic rõ ràng giữ quyền "tự quyết định" báo cáo đầu vào, đầu ra hoặc hành vi của người dùng cho các cơ quan thực thi pháp luật. Chính sách bảo mật có hiệu lực từ ngày 10 tháng 9 năm 2026 cũng cho phép công ty chia sẻ dữ liệu với cảnh sát khi tin rằng việc tiết lộ là hợp lý cần thiết để ngăn ngừa tổn hại nghiêm trọng. Ngay cả khi người dùng chọn không sử dụng dữ liệu cho việc đào tạo mô hình, Anthropic vẫn có thể sử dụng dữ liệu của họ trong vòng ba tháng, thay vì năm năm; các cuộc trò chuyện bị đánh dấu để xem xét cũng sẽ được sử dụng để cải thiện khả năng phát hiện nội dung có hại.

Đây không phải là trường hợp đầu tiên. Tờ San Francisco Standard báo cáo vào tháng 9 rằng Anthropic đã chuyển giao một người dùng cho cảnh sát, người này được cho là đã viết rằng mình đã mua một khẩu súng AR-15 và đã đặt CEO của công ty, Dario Amodei, vào ống ngắm, người này cho biết chỉ đang đùa, và khi báo cáo được công bố, người đó chưa bị bắt giữ hoặc truy tố, phát ngôn viên của Anthropic cho biết sự việc này là "quy trình bảo vệ của chúng tôi hoạt động như mong đợi".