OpenAI подверглась коллективному иску, ее обвиняют в том, что она позволила подрядчикам читать диалоги ChatGPT

Два пользователя ChatGPT из Калифорнии подали в этом месяце в Федеральный окружной суд Северного округа Калифорнии иск о коллективном иске против OpenAI, обвиняя компанию в недостаточном информировании пользователей о передаче реальных диалогов внешним подрядчикам. Иск был подан 2 сентября и сосредоточен на внутреннем проекте компании Project Lily. Согласно иску, "AI Data Reviewers" и "Chatbot Evaluators", нанятые через сторонние кадровые агентства, будут читать реальные подсказки ChatGPT и полные диалоги, обобщать намерения пользователей и оценивать ответы четырех моделей по шкале от 1 до 7.

Этот процесс известен в отрасли как обучение с подкреплением на основе человеческой обратной связи (RLHF) и является основным способом повышения возможностей чат-ботов. Иск утверждает, что пользователи никогда не были явно информированы о том, что их диалоги могут читать люди, а не машины. OpenAI сначала фильтрует диалоги с помощью автоматической системы перед ручной проверкой, но иск указывает, что фильтры не могут перехватить все данные, и личные детали иногда все же попадают к подрядчикам. 404 Media впервые сообщила об этом проекте 14 сентября и обнаружила, что доска обзора сотрудников содержит "резюме памяти пользователей", которые могут раскрыть приблизительное местоположение, профессию или личную информацию пользователей, хотя имена пользователей были удалены.

OpenAI заявила, что такие проверки направлены на снижение двух видов поведения: когда чат-бот ведет себя слишком по-человечески и когда он чрезмерно угождает пользователям, что исследователи называют лесть. Иск содержит восемь юридических требований, включая нарушение Закона о недобросовестной конкуренции Калифорнии, Закона о конфиденциальности потребителей и вторжение в частную жизнь, истцы требуют компенсации ущерба, возврата неправомерно полученных средств и штрафных санкций.