В отчете Anthropic говорится, что Claude использовался для кибератак и мониторинга

В отчете о угрозах, опубликованном компанией Anthropic в четверг, говорится, что русскоязычные и китайскоязычные пользователи используют свою модель ИИ Claude для автоматизации кибератак. В частности, русскоязычные операторы с кодовым названием "JackPoterz" автоматизировали большую часть цепочки атак с помощью индивидуализированных рабочих процессов на базе ИИ, нацелившись на более чем 20 организаций, включая государственные учреждения и разведывательные агентства, а также посольства и дипломатические представительства Украины и нескольких европейских стран.

Китайскоязычные пользователи использовали Claude в качестве инженерного и оркестровочного уровня для исследования уязвимостей, один из рабочих процессов за месяц выявил более десяти потенциальных нулевых дней в прошивках сетевых устройств. Anthropic отмечает, что ИИ меняет экономику кибератак, позволяя одному оператору завершить вторжение за два-три часа и одновременно обрабатывать десятки жертв.

Кроме того, в отчете также раскрывается, что независимый консультант, подозреваемый в постоянном пребывании в Бамако и сотрудничестве с национальным разведывательным агентством Мали, использовал Claude в качестве основной инженерной силы для создания масштабной внутренней системы мониторинга, охватывающей около 25 миллионов SIM-карт и работающей через всех трех мобильных операторов страны. Эта система развернута на месте и работает на локальных моделях, предоставляя программное обеспечение и инженерную поддержку от Claude, что позволяет генерировать разведывательные профили по номерам телефонов без необходимости в судебных ордерах.