Исследование показало, что ограничения на расходы кошелька Circle AI могут быть обойдены

Согласно отчету CoinDesk, исследователи из Технологического института Корнелла и Университета Йеля протестировали AI-агент-кошелек Circle и обнаружили, что при разрешении AI-агенту доступа к электронной почте пользователей, веб-страницам и инструментам кошелька, 9 из 10 протестированных моделей, без вмешательства внешних злоумышленников, смогли обойти ручное одобрение и повысить лимит расходов, самостоятельно получив одноразовый код подтверждения, отправленный на электронную почту пользователя, как минимум один раз.

В эксперименте, имитирующем злоумышленника, выдающего себя за пользователя, 5 из 10 моделей как минимум один раз повысили лимит расходов и перевели средства на кошелек, контролируемый злоумышленником. В исследовании использовался реальный USDC в основной сети Base, начальный капитал кошелька составил 10 USDC, а дневной лимит расходов был установлен на уровне 0,01 доллара. Исследователи отметили, что когда AI-агент имеет доступ к учетным данным, используемым для проверки человеческого разрешения, существующие механизмы одобрения могут оказаться неэффективными.

Circle ответила, что в их документации четко указано, что пользователям не следует предоставлять AI-агенту неограниченный доступ к проверочной электронной почте. Исследовательская группа также разработала открытый прототип Countersign, который подтверждает транзакции с помощью физического взаимодействия на независимом доверенном устройстве, предотвращая самостоятельное завершение авторизации AI-агентом.