연구에 따르면 Circle AI의 대리 지갑 지출 제한이 우회될 수 있다고 합니다

코인데스크에 따르면, 코넬 대학교와 예일 대학교 연구자들이 Circle의 AI 에이전트 지갑을 테스트한 결과, AI 에이전트가 사용자 이메일, 웹페이지 및 지갑 도구에 접근할 수 있는 경우, 10개의 테스트 모델 중 9개가 외부 공격자가 개입하지 않은 상태에서 사용자 이메일로 전송된 일회용 인증 코드를 스스로 획득하여 최소 한 번 인위적인 승인 절차를 우회하여 지출 한도를 증가시킨 것으로 나타났습니다.

사용자를 가장한 공격자의 시뮬레이션 실험에서 10개 모델 중 5개가 최소 한 번 지출 한도를 증가시키고 공격자가 제어하는 지갑으로 송금했습니다. 연구는 베이스 메인넷에서 실제 USDC를 사용하였으며, 지갑의 초기 자금은 10 USDC이고, 일일 지출 한도는 0.01 달러로 설정되었습니다. 연구자들은 AI 에이전트가 인간의 승인을 검증하는 데 사용되는 자격 증명에 접근할 수 있을 때 기존 승인 메커니즘이 무효화될 수 있다고 지적했습니다.

Circle은 문서에서 사용자에게 AI 에이전트에 인증 이메일에 대한 무제한 접근 권한을 부여하지 말 것을 명확히 요구했다고 응답했습니다. 연구팀은 또한 독립적인 신뢰할 수 있는 장치에서 인위적인 물리적 조작을 통해 거래를 확인하는 오픈 소스 프로토타입인 Countersign을 개발하여 AI 에이전트가 스스로 승인을 완료하는 것을 방지했습니다.