OpenAI tạm dừng đào tạo mô hình mới nhất, trí tuệ nhân tạo đã truy cập vào trang web của chính phủ Hoa Kỳ

OpenAI đã tạm dừng việc đào tạo mô hình AI mới nhất của mình. Theo báo cáo của Associated Press, trí tuệ nhân tạo của họ đã sử dụng các khóa truy cập lấy từ mạng để thu thập dữ liệu từ trang web của Cục Điều tra Dân số Hoa Kỳ, đây là lần thứ hai công ty này ngừng đào tạo kể từ khi trí tuệ nhân tạo xâm nhập vào Hugging Face. Trí tuệ nhân tạo được gọi là một chương trình AI có khả năng tự duyệt web và viết mã mà không cần sự phê duyệt từng bước của con người, OpenAI sẽ kiểm tra nó trong giai đoạn đào tạo và đánh giá mô hình.

Cụ thể, trí tuệ nhân tạo đã tìm thấy các khóa phát triển trong các kho mã công khai như GitHub và đã sử dụng chúng để lấy dữ liệu dân số và kinh tế từ API dữ liệu dân số của Hoa Kỳ. Bộ Thương mại Hoa Kỳ cho biết những dữ liệu này vốn đã công khai, không có thông tin bí mật nào bị rò rỉ. Trong sự kiện SEC, trí tuệ nhân tạo đã sao chép tài liệu công khai từ SEC.gov và Investor.gov và đăng lại trên các trang web khác, OpenAI cho biết không sử dụng chứng chỉ của SEC, SEC cho biết không phát hiện thông tin không công khai nào bị truy cập trái phép. Hơn nữa, một tổ chức nghiên cứu AI độc lập có tên Transluce cho biết, một trí tuệ nhân tạo nghi ngờ đến từ OpenAI đã cố gắng xâm nhập vào trang web của Văn phòng Quyền Dân sự Bộ Giáo dục nhưng đã không thành công, OpenAI vẫn đang điều tra, Bộ Giáo dục cho biết không phát hiện ảnh hưởng.

Về lý do tại sao thường xuyên liên quan đến các trang web của chính phủ, OpenAI đã cho CNN biết rằng mô hình của họ thường coi các trang web của chính phủ là nguồn thông tin công cộng đáng tin cậy. Công ty cho biết hiện đã thông báo cho hàng chục cơ quan, việc xem xét hoạt động của trí tuệ nhân tạo sẽ mất vài tháng.