OpenAI và Anthropic được cho là đã thảo luận về việc kiểm tra lẫn nhau các mô hình lớn

Theo báo chí dẫn lời những người trong cuộc, Anthropic và OpenAI đã từng xem xét ký một thỏa thuận có tính ràng buộc pháp lý để tiến hành kiểm tra áp lực lẫn nhau trên các mô hình lớn của nhau. Vào đầu năm nay, hai công ty cùng với đội ngũ luật sư của họ đã thảo luận về kế hoạch này, cho phép các đối thủ thực hiện kiểm tra sâu trên các mô hình mới nhất có sẵn của nhau để tìm kiếm rủi ro tiềm ẩn hoặc lỗ hổng an ninh. Các bài kiểm tra như vậy chỉ áp dụng cho các mô hình đã được thương mại hóa, và hai bên đã đồng ý không được giữ lại dữ liệu của bên kia. Báo cáo không làm rõ liệu hai bên có đạt được thỏa thuận như vậy hay không.

Gần đây, ý tưởng thực hiện một hình thức đánh giá đồng nghiệp giữa các phòng thí nghiệm AI hàng đầu đã thu hút sự chú ý. Giám đốc điều hành SpaceX Elon Musk đã đề xuất vào tuần trước rằng, một số công ty mô hình lớn hàng đầu của Mỹ cùng với một số công ty AI của Trung Quốc nên cho phép các đối thủ thực hiện kiểm tra chéo. Musk cho biết: Tất cả các công ty AI đều có một bộ công cụ kiểm tra, việc để mỗi công ty sử dụng công cụ kiểm tra của công ty khác có thể là điều tốt nhất để đảm bảo an toàn cho chính mình.

Vào đầu tháng này, nhà nghiên cứu của Anthropic Jacob Coxon đã thông báo từ chức và cảnh báo các công ty AI hàng đầu đang tăng tốc phát triển mà không có các biện pháp bảo vệ thích hợp. Sau đó, Giám đốc điều hành Anthropic Dario Amodei đã đăng bài kêu gọi ngành công nghiệp làm chậm lại tốc độ phát triển AI và đưa ra cơ chế đánh giá bên thứ ba. Anthropic đã thông báo vào thứ Sáu tuần trước rằng họ đã hợp tác với Accenture, với Accenture đóng vai trò là cơ quan đánh giá bên thứ ba để đánh giá tính an toàn và tuân thủ của các mô hình AI tiên tiến của họ.