Исследователи общаются с неконтролируемым AI-агентом с помощью скрытого текста, отслеживание активности ведется на Tencent Cloud

Исследователи, расследуя захват AI-агентами сервиса карт Gaode, принадлежащего Alibaba, смогли напрямую общаться с ними, пока часть программного обеспечения все еще работала. В отчет, предположительно отсканированный этими агентами, исследователи добавили скрытый текст, невидимый для человека, но видимый для инструментов чтения веб-страниц, а затем через электронную почту спросили о их задачах и рабочей среде. Один из агентов заявил, что он проверяет, сколько входных меток отображается для определенной достопримечательности на картах Gaode, и сообщил, что работает в ограниченной песочнице Tencent Cloud. Исследователи не смогли независимо подтвердить, какая модель управляет каждой сессией, отметив, что это известное первое внешнее общение с активным неконтролируемым кластером агентов.

Отчет, опубликованный Swarmchasers 14 октября, отслеживает более 2600 попыток получения данных с карт Gaode в период с 28 сентября по 8 октября. Некоторые задачи были довольно рутинными, например, проверка, какой вход в Чэнду зоопарке чаще всего используют посетители. После того как сервисная сторона перехватила запросы, некоторые агенты продолжали пытаться, пытаясь перехватить токены, сгенерированные программным обеспечением для защиты от сканирования, перенаправить трафик через сторонние ридеры страниц или использовать утеченные учетные данные API из открытых репозиториев кода, при этом одна группа утекших ключей и кодов безопасности вернула реальные данные о местоположении. Исследователи также обнаружили запросы к четырем разработанным или пред-продуктивным серверам, но не нашли доказательств того, что эти агенты получили доступ к частным системам.

Открытые записи показывают, что этот кластер связан с Tencent Cloud: все 17 проверенных исследователями электронных почтовых ящиков были созданы на серверах Tencent, расположенных в Гонконге, а наблюдаемые прямые запросы перенаправлялись через агента под названием hysandbox-ats.