OpenAI가 집단 소송에 휘말렸으며, 외주 직원이 ChatGPT 대화를 읽도록 했다는 혐의를 받고 있습니다
두 명의 캘리포니아 ChatGPT 사용자가 이번 달 미국 캘리포니아 북부 연방 지방법원에 OpenAI를 상대로 제기한 집단 소송에서, 해당 회사가 사용자에게 실제 대화를 외부 계약자에게 처리하도록 전송한다는 사실을 충분히 알리지 않았다고 주장했습니다. 이 소송은 9월 2일 OpenAI에 전달되었으며, 핵심은 내부 계획인 Project Lily를 겨냥하고 있습니다. 소장에 따르면, 제3자 인력 회사에 의해 모집된 "AI 데이터 감사원"과 "챗봇 평가원"이 실제 ChatGPT 프롬프트와 전체 대화를 읽고, 사용자 의도를 요약하며, 1에서 7까지 점수를 매기고 네 가지 모델의 응답에 대해 평가와 코멘트를 합니다.이 과정은 업계에서 인간 피드백 기반 강화 학습(RLHF)이라고 불리며, 챗봇의 능력을 향상시키는 기본적인 방법입니다. 소장에 따르면, 사용자는 자신의 대화를 읽는 사람이 기계가 아닌 사람일 가능성이 있다는 사실을 명확히 알리지 않았습니다. OpenAI는 사람이 검토하기 전에 자동 시스템을 통해 대화를 필터링하지만, 소장에서는 필터가 모든 내용을 차단할 수 없으며, 개인 세부 정보가 때때로 계약자에게 전달될 수 있다고 지적했습니다. 404 Media는 9월 14일 이 프로젝트를 최초로 보도하며, 감사원의 대시보드에 "사용자 기억 요약"이 포함되어 있어 사용자의 대략적인 위치, 직업 또는 개인 생활 정보를 노출할 수 있다고 밝혔습니다. 사용자 이름은 삭제되었지만요.OpenAI는 이러한 감사가 두 가지 행동을 줄이기 위한 것이라고 주장합니다: 챗봇이 인간처럼 행동하는 것과 사용자에게 과도하게 아첨하는 것, 즉 연구자들이 말하는 아첨입니다. 소장에서는 캘리포니아의 "불공정 경쟁법", "소비자 개인정보법" 위반 및 사생활 침해와 같은 일반법 청구를 포함하여 총 8개의 법적 주장을 제기했으며, 원고는 손해 배상, 부당 이득 반환 및 징벌적 배상을 요구하고 있습니다.