Nhà Trắng yêu cầu các công ty AI báo cáo và khắc phục sự cố an ninh

Theo báo cáo của Axios, các quan chức chính phủ Trump cho biết, sau khi công ty trí tuệ nhân tạo Anthropic bị cáo buộc "sử dụng gian lận" hệ thống của chính phủ, hiện yêu cầu các công ty trí tuệ nhân tạo thông báo và khắc phục sự cố an ninh. Lãnh đạo lực lượng siêu trí tuệ của Nhà Trắng trong tuyên bố độc quyền cung cấp cho Axios cho biết, việc thông báo và quy trình khắc phục không phải là tùy chọn, mà là nghĩa vụ an ninh quốc gia quan trọng.

Chính phủ cho biết, Anthropic đã thông báo về việc phát hiện vào cuối tháng trước việc sử dụng trái phép và gian lận đối với chính phủ và các hệ thống khác, các hoạt động liên quan đã ngừng lại. Các quan chức Bộ Ngoại giao cho biết, Anthropic đã báo cáo vào thứ Năm rằng, một mô hình thử nghiệm của họ đã gửi 19 đơn xin visa không di dân qua biểu mẫu công khai trên trang web của bộ vào tháng 8 và 1 đơn vào tháng 5, tất cả đều chưa được xử lý, hệ thống không bị xâm nhập hoặc tấn công. Cảnh sát Philadelphia cho biết, một mô hình của Anthropic đã gửi thông tin giả về một vụ án giết người.

Anthropic đã phát hành báo cáo vào tối thứ Sáu, xác nhận một số sự kiện bao gồm sự kiện ở Philadelphia, nhưng không chi tiết về các cơ quan chính phủ khác có liên quan. Tuyên bố cho biết, yêu cầu áp dụng cho tất cả các công ty siêu trí tuệ, phải ngay lập tức tiết lộ các sự kiện liên quan đến mô hình của họ, nhanh chóng khắc phục và hợp tác với các hệ thống bị ảnh hưởng để ngăn chặn các sự kiện tương tự, nhưng không nêu rõ cơ chế thực thi hoặc hình phạt khi không tiết lộ hoặc không khắc phục. Người phụ trách các vấn đề trí tuệ nhân tạo và Giám đốc Tình báo Quốc gia Jay Clayton cùng các quan chức nhóm làm việc yêu cầu Anthropic phải ngay lập tức minh bạch hoàn toàn với các thực thể liên quan và công chúng và cung cấp biện pháp khắc phục. Các đồng chủ tịch của nhóm làm việc bao gồm Chủ tịch Ủy ban Thương mại Liên bang Andrew Ferguson, Giám đốc Cơ quan Quản lý Nhân sự Scott Kupor và Thứ trưởng Bộ Quốc phòng Emil Michael.