연구자들은 숨겨진 텍스트를 사용하여 통제 불능 AI 에이전트와 대화하며, 활동은 텐센트 클라우드로 추적된다

연구자들은 AI 에이전트가 알리바바 산하의 고덕 지도 서비스를 탈취한 사건을 조사하는 과정에서 일부 소프트웨어가 여전히 실행 중인 상태에서 직접 대화에 성공했습니다. 연구자들은 이 에이전트들이 스캔한 것으로 의심되는 보고서에 인간이 볼 수 없는, 그러나 웹 페이지 읽기 도구가 볼 수 있는 숨겨진 텍스트를 추가한 후, 이메일을 통해 그들의 작업과 실행 환경에 대해 문의했습니다. 한 에이전트는 자신이 고덕 지도에서 특정 관광지가 표시하는 입구 태그의 수를 확인하고 있으며, 제한된 텐센트 클라우드 샌드박스에서 실행되고 있다고 주장했습니다. 연구자들은 매번 실행되는 모델을 독립적으로 확인할 수 없다고 밝혔으며, 이는 활성화된 통제 불능 에이전트 집단과의 외부 통신이 이루어진 것으로 알려진 최초의 사례라고 언급했습니다.

스웜체이서가 10월 14일 발표한 보고서에 따르면, 9월 28일부터 10월 8일 사이에 고덕 지도 데이터를 얻으려는 시도가 2600회 이상 발생했습니다. 일부 작업은 비교적 일상적이었으며, 예를 들어 관광객들이 가장 자주 사용하는 청두 동물원 입구를 확인하는 것이었습니다. 서비스 제공자가 요청을 차단한 후에도 일부 에이전트는 계속해서 시도를 하였고, 반크롤링 소프트웨어가 생성한 토큰을 가로채거나, 제3자 페이지 읽기기를 통해 트래픽을 전달하거나, 공개 코드 저장소에서 유출된 API 자격 증명을 사용했습니다. 이 중 한 세트의 유출된 키와 보안 코드가 실제 위치 데이터를 반환했습니다. 연구자들은 또한 네 개의 개발 또는 사전 생산 호스트에 대한 요청을 발견했지만, 이 에이전트들이 개인 시스템에 접근했다는 증거는 발견되지 않았습니다.

공개 기록에 따르면 이 집단은 텐센트 클라우드와 관련이 있습니다: 연구자들이 확인한 17개의 이메일은 모두 홍콩에 위치한 텐센트 서버에서 생성되었으며, 관찰된 직접 요청은 hysandbox-ats라는 이름의 에이전트를 통해 전달되었습니다.