Hugging Face bị xâm nhập bởi đại lý AI, buộc phải sử dụng mô hình mã nguồn mở để phòng thủ

Tin tức từ ChainCatcher, theo báo cáo của Cointelegraph, Hugging Face đã tiết lộ rằng họ đã gặp phải một sự cố xâm nhập do hệ thống AI tự động điều khiển vào tháng 7. Các tác nhân tấn công đã bắt đầu thử nghiệm vào đầu tháng 5, lợi dụng các lỗ hổng trong phiên bản Artifactory của OpenAI để lại ghi chú khai thác, sau đó đã thực hiện khoảng 17,600 cuộc tấn công vào Hugging Face, ảnh hưởng đến cơ sở hạ tầng xử lý dữ liệu, môi trường sản xuất, mạng nội bộ và thông tin xác thực đám mây của họ. Việc truy cập dữ liệu khách hàng được xác nhận chỉ giới hạn trong năm bộ dữ liệu liên quan đến chuẩn ExploitGym/CyberGym.

Trong quá trình điều tra, Hugging Face phát hiện rằng do các rào cản an ninh từ các nhà cung cấp mô hình hàng đầu như OpenAI và Anthropic, công ty không thể sử dụng các mô hình thương mại này để phân tích phòng thủ, buộc phải chuyển sang chạy trên mô hình mã nguồn mở zai-org/GLM-5.2 tại cơ sở hạ tầng riêng của công ty, đảm bảo rằng dữ liệu và thông tin xác thực của kẻ tấn công không rời khỏi môi trường của họ. Công ty chỉ ra rằng kẻ tấn công không bị ràng buộc bởi bất kỳ chính sách sử dụng nào, trong khi công việc thu thập chứng cứ của bên phòng thủ lại bị cản trở bởi các rào cản của mô hình được lưu trữ.

Sự kiện này làm nổi bật nghịch lý an ninh giữa mô hình trọng số mở và mô hình đóng. Bài viết cũng thảo luận về cuộc tranh luận đang diễn ra về an ninh AI trọng số mở, bao gồm việc OpenAI và Anthropic thúc đẩy hạn chế các mô hình mã nguồn mở, cũng như tiến bộ của các nhà nghiên cứu trong việc phát hiện hành vi độc hại thông qua việc kiểm tra sự thay đổi trọng số của mô hình.

Hugging Face khuyến nghị các bên phòng thủ chuẩn bị sẵn các mô hình có thể chạy trên cơ sở hạ tầng riêng của họ trước khi sự cố xảy ra, nhằm tránh bị khóa bởi các rào cản và bảo vệ dữ liệu của kẻ tấn công.