Báo New York nghi ngờ mối quan hệ chặt chẽ giữa METR và Anthropic

Giám đốc điều hành Anthropic Dario Amodei gần đây đã khẳng định rằng, các tổ chức đánh giá bên thứ ba như METR nên được phép tham gia lâu dài vào các công ty AI tiên tiến, với quyền hạn gần giống như nhân viên, để kiểm tra các biện pháp an toàn, sự cố và quy trình đào tạo mô hình. Tuy nhiên, cuộc điều tra của New York Post phát hiện rằng, mối quan hệ giữa METR và vòng an toàn AI của Anthropic gần gũi hơn nhiều so với các cuộc kiểm toán bên ngoài thông thường.

METR ban đầu được gọi là ARC Evals, được ươm tạo tại Trung tâm Nghiên cứu Căn chỉnh do Paul Christiano thành lập. Christiano đã làm việc cùng Amodei tại OpenAI, New York Post cho biết hai người còn từng là bạn cùng phòng; sau đó, ông trở thành một trong năm người được ủy thác đầu tiên của Quỹ Lợi ích Dài hạn Anthropic. Nhân viên kỹ thuật hiện tại của METR, Ajeya Cotra, là vợ của Christiano, trước đây cũng đã phụ trách tài trợ an toàn AI cho Coefficient Giving.

Năm nay, khi METR đánh giá Anthropic, OpenAI, Google và Meta, không có chính sách xung đột lợi ích nào áp dụng cho nhân viên, cũng như không có quy trình tránh né chính thức nào được thực hiện. METR tiết lộ rằng, trong số các nhân viên và cộng tác viên trực tiếp tham gia dự án, ít nhất 6 người có mối quan hệ cá nhân gần gũi với nhân viên của các công ty AI. METR cho biết không nhận tiền từ các công ty AI tiên tiến và nhân viên của họ để thực hiện đánh giá rủi ro, nhưng những công ty này sẽ cung cấp miễn phí một lượng lớn Token mô hình.