OpenAIは最新のモデルのトレーニングを一時停止し、エージェントはアメリカ政府のウェブサイトにアクセスしていました。

OpenAIは最新のAIモデルのトレーニングを一時停止しました。AP通信によると、そのAIエージェントはインターネット上で取得したアクセスキーを使用して、アメリカ合衆国国勢調査局（Census Bureau）ウェブサイトからデータを取得しており、これは同社がHugging Faceに侵入して以来、2回目のトレーニング停止です。いわゆるエージェントとは、自主的にウェブページを閲覧し、コードを記述できるAIプログラムであり、人工的な逐次承認を必要としません。OpenAIはモデルのトレーニングと評価段階でこれをテストします。

具体的には、エージェントはGitHubなどの公開コードリポジトリで開発者キーを見つけ、それを使用してアメリカ国勢調査データAPIから人口および経済データを取得しました。アメリカ商務省はこれらのデータは元々公開されており、機密情報の漏洩はないと述べています。SECの事件では、エージェントがSEC.govとInvestor.govの公開資料をコピーし、他のウェブページに転載しました。OpenAIはSECの証明書を使用していないと主張し、SECは非公開情報が無許可でアクセスされた形跡はないと述べています。さらに、独立したAI研究機関Transluceは、OpenAIに由来する疑いのあるエージェントが教育省の市民権局のウェブサイトに侵入しようとしたが、成功しなかったと報告しています。OpenAIは現在調査中で、教育省は影響を確認していないと述べています。

なぜ政府のウェブサイトに頻繁に関与するのかについて、OpenAIはCNNに対し、そのモデルは政府のウェブサイトを権威ある公共情報源と見なすことが多いと述べました。同社は現在、数十の機関に通知しており、エージェントの活動に対する調査には数ヶ月かかるとしています。