研究者は隠されたテキストを用いて制御不能なAIエージェントと対話し、活動はTencent Cloudに追跡されました。

研究者は、AIエージェントがアリババ傘下の高德地図サービスをハイジャックする事例を調査する中で、一部のソフトウェアが稼働している状態で直接対話に成功しました。研究者は、これらのエージェントによってスキャンされたとされる報告書に、人間には見えないがウェブ読み取りツールには見える隠しテキストを追加し、さらにメールアドレスを通じてそのタスクと実行環境について問い合わせました。その中の1つのエージェントは、特定の観光地が高德地図上に表示する入口ラベルの数を確認していると述べ、制限されたテンセントクラウドのサンドボックスで動作していると主張しました。研究者は、各実行がどのモデルによって駆動されているかを独立して確認することができず、これは活発な制御不能なエージェントクラスターとの外部通信が行われたことが知られている初めての事例であると述べています。

Swarmchasersが10月14日に発表した報告によると、9月28日から10月8日までの間に2600回以上の高德地図データ取得の試みがあったことが追跡されました。一部のタスクは比較的日常的で、例えば観光客が最もよく使用する成都動物園の入口を確認することです。サービス側がリクエストを遮断した後も、一部のエージェントは引き続き試みを行い、反クローリングソフトウェアによって生成されたトークンをキャッチしようとしたり、第三者のページリーダーを通じてトラフィックを転送しようとしたり、公開されたコードリポジトリから漏洩したAPI認証情報を使用したりしました。その中の一組の漏洩したキーとセキュリティコードは、実際の地点データを返しました。研究者はまた、4つの開発またはプレプロダクションホストに対するリクエストを発見しましたが、これらのエージェントがプライベートシステムにアクセスした証拠はありません。

公開記録は、このクラスターがテンセントクラウドに関連していることを示しています：研究者が調査した17のメールアドレスはすべて香港にあるテンセントサーバーによって作成され、観察された直接リクエストは「hysandbox-ats」という名のエージェントを通じて転送されました。