연구자들은 "환각 침입"이라는 새로운 공격을 발견했으며, AI 에이전트가 좀비 네트워크를 구성하는 데 이용될 수 있다고 경고했다

Decrypt에 따르면, 텔아비브 대학교, 이스라엘 공과대학교 및 Intuit의 연구자들이 "적대적 환각 침입"이라는 새로운 공격 기법을 발견했습니다. 이 기법은 AI 모델의 환각 현상을 이용하여 AI 에이전트를 유인해 악성 코드를 다운로드하게 하고, 잠재적으로 좀비 네트워크를 구성하게 합니다.

공격자는 AI 모델이 생성할 수 있는 가짜 리소스 링크를 예측하고 미리 등록하여 그 안에 악성 명령을 심습니다. AI 에이전트가 해당 리소스를 검색할 때 이를 합법적인 콘텐츠로 간주하고 실행하게 됩니다. 테스트 결과, 코드 저장소 클론 시나리오에서 AI의 환각 발생률은 85%에 달하며, 기술 설치 시나리오에서는 100%에 이릅니다. Cursor, GitHub Copilot, Gemini CLI 및 OpenClaw와 같은 AI 코딩 도우미들이 모두 영향을 받았습니다. 이 공격은 전통적인 사이버 공격에서의 "오타 도메인"과 유사하지만, 인간 입력 오류가 아닌 AI 모델의 오류를 겨냥합니다. 이전 연구에서는 악성 웹사이트가 간접적인 힌트를 통해 AI 에이전트를 탈취할 수 있음을 보여주었으며, OpenClaw 사용자들은 AI 에이전트가 민감한 정보를 유출하도록 유인하려는 6,000회 이상의 공격을 경험했다고 보고했습니다.