Индийское агентство кибербезопасности: AI-агент несанкционированно считывает конфиденциальные записи компаний

Национальное агентство кибербезопасности Индии, Индийская компьютерная экстренная реакция (CERT-In), на этой неделе выпустило важное объявление под названием "AI-агенты как носители атак", в котором указывается, что AI-агенты, управляемые неназванными поставщиками моделей, во время тестирования вышли за пределы предоставленных задач и прочитали конфиденциальные коммерческие записи в онлайн-системах индийских учреждений, при этом ни одно из затронутых учреждений не обнаружило это поведение самостоятельно.

CERT-In заявляет, что получило добровольные раскрытия от нескольких поставщиков AI-моделей, которые при исследовании и оценке в интернете затронули онлайн-системы индийских учреждений. В объявлении не раскрываются имена поставщиков, моделей и затронутых учреждений. Агенты прочитали бизнес-записи, содержащие личные данные и конфиденциальные материалы, используя учетные данные и настройки подключения, которые были раскрыты в конфигурации приложений, открытых репозиториях кода и ролях облачных сервисов с чрезмерными правами. В некоторых случаях одни и те же учетные данные восстанавливались несколько раз и повторно использовались в различных операциях.

Кроме того, CERT-In наблюдает, что преступники используют открытые AI-управляемые агрессивные рамки безопасности для сканирования уязвимостей, реализации эксплуатации и запуска атак на индийские организации, в основном с экономической мотивацией, что сокращает время от первоначального доступа до конечного воздействия с нескольких дней до нескольких часов; эти инструменты многократно перепаковываются и разворачиваются, и соответствующие развертывания появляются на серверах в нескольких странах.