OpenAI bị kiện tập thể, bị cáo buộc cho phép nhân viên bên ngoài đọc cuộc trò chuyện ChatGPT

Hai người dùng ChatGPT ở California đã đệ đơn kiện tập thể dự kiến chống lại OpenAI tại Tòa án Liên bang khu vực Bắc California vào tháng này, cáo buộc công ty này không thông báo đầy đủ cho người dùng về việc chuyển giao các cuộc trò chuyện thực tế cho các nhà thầu bên ngoài xử lý. Đơn kiện được gửi đến OpenAI vào ngày 2 tháng 9, tập trung vào kế hoạch nội bộ của họ mang tên Project Lily. Theo đơn kiện, các "nhân viên kiểm tra dữ liệu AI" và "đánh giá viên chatbot" được tuyển dụng qua công ty nhân lực bên thứ ba sẽ đọc các từ khóa và cuộc trò chuyện đầy đủ của ChatGPT, tóm tắt ý định của người dùng và chấm điểm các câu trả lời của bốn mô hình từ 1 đến 7.

Quy trình này được ngành công nghiệp gọi là học tăng cường dựa trên phản hồi của con người (RLHF), là phương pháp cơ bản để cải thiện khả năng của chatbot. Đơn kiện cho biết, người dùng chưa bao giờ được thông báo rõ ràng rằng người đọc cuộc trò chuyện của họ có thể là một con người, chứ không phải máy móc. OpenAI sẽ lọc cuộc trò chuyện qua hệ thống tự động trước khi xem xét bằng tay, nhưng đơn kiện chỉ ra rằng bộ lọc không thể chặn tất cả nội dung, và thông tin cá nhân đôi khi vẫn có thể đến tay các nhà thầu. 404 Media đã công bố dự án này vào ngày 14 tháng 9 và phát hiện rằng bảng điều khiển của nhân viên kiểm tra chứa "tóm tắt trí nhớ người dùng", có thể tiết lộ vị trí, nghề nghiệp hoặc thông tin đời tư của người dùng, mặc dù tên người dùng đã bị xóa.

OpenAI cho biết việc kiểm tra như vậy nhằm giảm hai hành vi: chatbot cư xử quá giống con người và quá chiều lòng người dùng, tức là những gì các nhà nghiên cứu gọi là nịnh bợ. Đơn kiện đã đưa ra tám yêu cầu pháp lý, bao gồm vi phạm Đạo luật Cạnh tranh Không Công bằng của California, Đạo luật Quyền riêng tư Người tiêu dùng và các yêu cầu pháp lý thông thường về xâm phạm đời tư, nguyên đơn yêu cầu bồi thường thiệt hại, hoàn trả lợi ích không chính đáng và bồi thường thiệt hại trừng phạt.