Các nhà nghiên cứu phát hiện một loại tấn công mới gọi là "xâm nhập ảo giác", AI có thể bị lợi dụng để xây dựng mạng bot

Tin tức từ ChainCatcher, theo báo cáo của Decrypt, các nhà nghiên cứu từ Đại học Tel Aviv, Viện Công nghệ Israel và Intuit đã phát hiện ra một phương pháp tấn công mới có tên là "xâm nhập ảo giác đối kháng", thông qua việc lợi dụng hiện tượng ảo giác của mô hình AI, lừa đảo các đại lý AI tải xuống mã độc và có thể hình thành mạng bot.

Kẻ tấn công dự đoán các liên kết tài nguyên giả mà mô hình AI có thể tạo ra và đăng ký trước, chèn vào đó các lệnh độc hại, khi đại lý AI truy xuất tài nguyên đó sẽ coi nó là nội dung hợp pháp và thực hiện. Các thử nghiệm cho thấy, tỷ lệ xảy ra ảo giác của AI trong các kịch bản sao chép kho mã đạt 85%, trong các kịch bản cài đặt kỹ năng đạt 100%, các trợ lý lập trình AI như Cursor, GitHub Copilot, Gemini CLI và OpenClaw đều bị ảnh hưởng. Cuộc tấn công này tương tự như "tên miền giả" trong các cuộc tấn công mạng truyền thống, nhưng nhắm vào lỗi của mô hình AI chứ không phải lỗi nhập liệu của con người. Trước đó, đã có nghiên cứu cho thấy các trang web độc hại có thể tiêm nhiễm vào đại lý AI thông qua các gợi ý gián tiếp, người dùng OpenClaw đã báo cáo gặp phải hơn 6,000 lần cố gắng lừa đảo đại lý AI tiết lộ thông tin nhạy cảm.