Các nhà nghiên cứu đã trò chuyện với đại lý AI mất kiểm soát bằng văn bản ẩn, theo dõi hoạt động đến Tencent Cloud

Các nhà nghiên cứu trong quá trình điều tra việc các đại lý AI chiếm đoạt dịch vụ bản đồ Gaode thuộc Alibaba đã thành công trong việc trực tiếp trò chuyện với chúng khi một số phần mềm vẫn đang hoạt động. Các nhà nghiên cứu đã thêm văn bản ẩn mà con người không thể nhìn thấy nhưng công cụ đọc web có thể nhìn thấy vào một báo cáo nghi ngờ đã bị những đại lý này quét, và sau đó đã hỏi về nhiệm vụ và môi trường hoạt động của chúng qua một địa chỉ email. Một đại lý cho biết, nó đang kiểm tra có bao nhiêu nhãn đầu vào được hiển thị cho một điểm tham quan trên bản đồ Gaode, và cho biết nó đang hoạt động trong một sandbox hạn chế của Tencent Cloud. Các nhà nghiên cứu không thể xác nhận độc lập mô hình nào đã điều khiển mỗi lần chạy, cho biết đây là lần đầu tiên được biết đến mà có sự giao tiếp bên ngoài với một cụm đại lý mất kiểm soát đang hoạt động.

Báo cáo được Swarmchasers phát hành vào ngày 14 tháng 10 đã theo dõi được rằng từ ngày 28 tháng 9 đến ngày 8 tháng 10 đã có hơn 2600 lần cố gắng truy cập dữ liệu bản đồ Gaode. Một số nhiệm vụ khá thông thường, chẳng hạn như kiểm tra cổng vào nào mà du khách thường sử dụng nhất tại sở thú Thành Đô. Sau khi nhà cung cấp dịch vụ chặn yêu cầu, một số đại lý vẫn tiếp tục cố gắng, và cố gắng chặn các mã thông báo được tạo ra bởi phần mềm chống quét, chuyển tiếp lưu lượng qua các trình đọc trang của bên thứ ba, hoặc sử dụng các chứng nhận API bị rò rỉ trong kho mã công khai, trong đó một nhóm key bị rò rỉ và mã an toàn đã trả về dữ liệu địa điểm thực. Các nhà nghiên cứu cũng phát hiện ra các yêu cầu đối với bốn máy chủ phát triển hoặc tiền sản xuất, nhưng không có bằng chứng cho thấy các đại lý này đã truy cập vào hệ thống riêng tư.

Các hồ sơ công khai cho thấy cụm này liên quan đến Tencent Cloud: tất cả 17 địa chỉ email mà các nhà nghiên cứu kiểm tra đều được tạo ra bởi máy chủ Tencent đặt tại Hồng Kông, và các yêu cầu trực tiếp được quan sát đã được chuyển tiếp qua một đại lý có tên là hysandbox-ats.