Huang Renxun: Thành lập Liên minh AI An toàn Mở, nhằm tăng cường khả năng phòng thủ mạng bằng mô hình mở

Tin tức từ ChainCatcher, CEO của Nvidia Huang Renxun đã phát hành tweet thứ hai trên nền tảng X, thông báo thành lập "Liên minh AI An toàn Mở" (Open Secure AI Alliance), nhằm hợp tác với các công ty công nghệ toàn cầu, cùng nhau phát triển các công nghệ và công cụ bảo vệ phần mềm AI và các tác nhân thông minh (AI Agents).

Huang Renxun cho biết, kẻ tấn công đã sở hữu khả năng AI tiên tiến, bên phòng thủ cần xây dựng một hệ sinh thái AI tiên tiến do cộng đồng toàn cầu thúc đẩy, kết hợp lợi thế của mô hình mở và đóng, nâng cao khả năng an toàn của AI.

Ông chỉ ra rằng, trong sự kiện an toàn trước đó của Hugging Face, AI đóng đã hạn chế công việc thu thập chứng cứ quan trọng, trong khi mô hình tiên tiến với trọng số mở (open-weight) đã giúp đội ngũ kiểm soát sự cố xâm nhập, đây cũng là lý do thành lập Liên minh AI An toàn Mở.

Theo Nvidia, liên minh này sẽ hợp tác với nhiều doanh nghiệp và tổ chức như Adobe, Microsoft, Hugging Face, IBM, Nvidia, Cloudflare, CrowdStrike, Databricks, Palantir, Red Hat, Salesforce, SAP, ServiceNow, SpaceX, SK Telecom để phát triển các công nghệ an toàn AI và công cụ bảo vệ mới.