OpenAIが集団訴訟を受け、外部委託者にChatGPTの対話を読ませたと指摘される

カリフォルニア州の2人のChatGPTユーザーが今月、アメリカ合衆国カリフォルニア北部地区連邦裁判所に対してOpenAIに提案された集団訴訟を提起し、同社がユーザーに対して十分に通知せずに、実際の対話を外部の請負業者に処理させたと主張しています。この訴訟は9月2日にOpenAIに送達され、核心は内部計画Project Lilyに向けられています。訴状によれば、第三者の人材会社によって雇われた「AIデータレビュアー」や「チャットボット評価者」が、実際のChatGPTのプロンプトや完全な対話を読み取り、ユーザーの意図を要約し、4つのモデルの回答に対して1から7のスコアを付けて評価するとのことです。

このプロセスは業界で人間のフィードバックに基づく強化学習（RLHF）と呼ばれ、チャットボットの能力向上の基本的な方法です。訴状は、ユーザーが自分の対話を読む可能性があるのは機械ではなく人間であることを明示的に告知されていなかったと主張しています。OpenAIは人間による確認の前に自動システムで対話をフィルタリングしますが、訴状はフィルターがすべての内容を遮断できないため、個人の詳細が時折請負業者の手に渡ることがあると指摘しています。404 Mediaは9月14日にこのプロジェクトを最初に報じ、レビュアーのダッシュボードには「ユーザー記憶の要約」が含まれており、ユーザーの大まかな位置、職業、または私生活の情報が露呈する可能性があることを発見しましたが、ユーザー名は削除されています。

OpenAIはこのようなレビューが2つの行動を減少させることを目的としていると述べています：チャットボットが人間のように振る舞いすぎること、そしてユーザーに過度に迎合すること、すなわち研究者が称するお世辞です。訴状はカリフォルニア州の「不公平競争法」「消費者プライバシー法」違反およびプライバシー侵害などの一般法的請求を含む8つの法的主張を提起しており、原告は損害賠償、不当利得の返還および懲罰的賠償を求めています。