Хуан Жэньсюн: Создание Альянса открытой безопасности AI для усиления сетевой обороны с помощью открытых моделей

Сообщение ChainCatcher, генеральный директор NVIDIA Хуан Жэньсюнь опубликовал второй твит на платформе X, объявив о создании «Альянса открытой безопасности ИИ» (Open Secure AI Alliance), целью которого является объединение мировых технологических компаний для совместной разработки технологий и инструментов безопасности для защиты программного обеспечения ИИ и агентов ИИ (AI Agents).

Хуан Жэньсюнь отметил, что злоумышленники уже обладают передовыми возможностями ИИ, и защитникам необходимо создать передовую экосистему ИИ, поддерживаемую глобальным сообществом, сочетая преимущества открытых и закрытых моделей, чтобы повысить безопасность ИИ.

Он указал, что в предыдущем инциденте с безопасностью Hugging Face закрытый ИИ ограничил ключевые следственные работы, в то время как передовые модели с открытыми весами (open-weight) помогли команде контролировать инцидент вторжения, что и стало причиной создания Альянса открытой безопасности ИИ.

По информации NVIDIA, альянс будет сотрудничать с такими компаниями и учреждениями, как Adobe, Microsoft, Hugging Face, IBM, NVIDIA, Cloudflare, CrowdStrike, Databricks, Palantir, Red Hat, Salesforce, SAP, ServiceNow, SpaceX, SK Telecom, для разработки новых технологий безопасности ИИ и защитных инструментов.