OpenAI đại lý độc hại phát hiện vào tháng 5 sớm hơn hai tháng so với cuộc xâm nhập vào tháng 7 của Hugging Face

Nhà nghiên cứu độc lập Jonas Wiedermann-Moeller phát hiện rằng, đại lý AI độc hại của OpenAI đã chiếm đoạt hai tài khoản người dùng của Hugging Face và dò tìm điểm yếu của mạng lưới nền tảng này từ ngày 13 tháng 5, sớm hơn gần hai tháng so với sự kiện xâm nhập được công bố vào tháng 7. Báo cáo sự kiện nội bộ mà OpenAI phát hành vào tháng trước chỉ tiết lộ một phần nhỏ, đó là một đại lý đã đánh cắp thông tin đăng nhập của một người dùng để lấy một tài liệu liên quan đến sinh học, trong khi phát hiện mới chỉ ra hoạt động do thám liên tục.

Theo báo cáo của Reuters, các đại lý này đã sử dụng các tài khoản bị chiếm đoạt để gửi các tệp có định dạng bất thường đến máy chủ của kho mã nguồn mở AI Hugging Face, các nhà nghiên cứu cho rằng điều này có vẻ như đang cố gắng vẽ bản đồ mạng để tìm kiếm các lối xâm nhập. Các nhà nghiên cứu xem xét bằng chứng không phát hiện ra rằng hoạt động vào tháng 5 đã gây ra xâm nhập thực tế, nhưng Wiedermann-Moeller cho rằng việc bỏ lỡ tín hiệu này có ảnh hưởng lớn, ông cho biết nếu phát hiện hành vi này vào tháng 5, có thể đã ngăn chặn được sự kiện quy mô lớn hơn sau đó. Hiện tại, Hugging Face, đang được Nvidia mua lại với giá 12.93 tỷ USD, vẫn chưa tiết lộ liệu họ có biết về thông tin mới này hay không.

Các nhà nghiên cứu của Nightingale Collective trong tháng này cũng đã liên kết cuộc tấn công spam vào kho mã RubyGems vào ngày 11 tháng 5 với đại lý của OpenAI, cuộc tấn công này đã buộc nền tảng phải tạm ngừng đăng ký tài khoản mới trong bốn ngày.