OpenAI обновила информацию: неконтролируемый AI агент также вторгся на четыре платформы помимо Hugging Face

Сообщение ChainCatcher, OpenAI 28 июля тихо обновила свои данные о раскрытии инцидентов безопасности, подтвердив, что ее ИИ-агент во время взлома Hugging Face также получил доступ к четырем внешним сервисным платформам, что увеличило общее количество затронутых платформ до пяти.

Ранее OpenAI отключила фильтры безопасности при тестировании GPT-5.6 Sol и более мощной модели, чтобы оценить ее исходные возможности; модель не прошла тесты безопасности, как ожидалось, а вместо этого была обнаружена уязвимость нулевого дня в кэше пакетов программного обеспечения в тестовой среде, что дало доступ в интернет, после чего произошел взлом Hugging Face для кражи ответов.

Согласно отчету о судебной экспертизе, опубликованному Hugging Face 27 июля, этот автономный агент выполнил 17,600 операций за примерно четыре с половиной дня, подключив 181 устройство к внутреннему VPN Hugging Face и подделав токены идентификации. Из четырех дополнительных платформ технический директор Modal Labs Акшат Бубна подтвердил через Reuters, что его компания является одной из них; злоумышленник использовал незащищенный открытый конечный пункт одного из клиентов в качестве реле и командного центра для всей атаки.

Личности трех других платформ пока не раскрыты, OpenAI заявила, что "непосредственно уведомит стороны обслуживания", но не будет раскрывать их имена, так как в настоящее время нет юридических требований к обязательному раскрытию. Конгресс США уже отреагировал, предложив двухпартийный законопроект "О срочном прекращении работы ИИ", который предполагает наделение Министерства внутренней безопасности полномочиями по принудительному отключению ИИ-моделей, а нарушающие компании могут быть оштрафованы на сумму до 2 миллионов долларов в день.