Ultraman giới thiệu ba con đường phát triển AI siêu an toàn cho nhân viên

Giám đốc điều hành OpenAI, Sam Altman, đã giới thiệu ba phương án phát triển AI siêu an toàn cho nhân viên vào tuần trước. Phương án đầu tiên là thành lập một tổ chức giám sát toàn cầu tương tự như Cơ quan Năng lượng Nguyên tử Quốc tế, để kiểm tra các mô hình tiên tiến và kiểm toán các biện pháp an toàn. Những người có thông tin cho biết, Altman nghiêng về hướng này.

Phương án thứ hai bắt chước Trung tâm Nghiên cứu Hạt nhân Châu Âu, cho phép các phòng thí nghiệm AI lớn hợp nhất thành một tổ chức, hoặc phát triển chung thông qua một cơ quan thống nhất, thay vì tiếp tục cạnh tranh riêng lẻ. Phương án thứ ba cực đoan nhất, được ông gọi là "Phương án Eliezer": một công ty AI tiên phong trong việc cải tiến tự hồi quy, sau đó sử dụng sức mạnh kinh tế áp đảo để kiểm soát sức mạnh tính toán, khiến các nhà phát triển khác không thể theo kịp. Altman mô tả ý tưởng này bằng cách nói "hủy diệt GPU của tất cả các công ty khác", đồng thời cho biết phương án này rất tệ, chỉ là để nêu ra một ví dụ cực đoan về khả năng can thiệp.

Ý tưởng "hủy diệt GPU" đến từ nhà nghiên cứu an toàn AI Eliezer Yudkowsky. Ông đã đưa ra một thí nghiệm tư tưởng vào năm 2021, cho phép AI siêu cấp chế tạo ra các máy nano có khả năng tự sao chép để hủy diệt GPU toàn cầu, và cho biết đây chỉ là một ví dụ cực đoan để minh họa mức độ can thiệp, không phải là một kế hoạch được đề xuất để thực hiện. OpenAI đã đề xuất thành lập "Cơ quan Năng lượng Nguyên tử Quốc tế phiên bản AI" vào năm 2023, và người đứng đầu Google DeepMind, Demis Hassabis, cũng đã từng đề xuất thành lập "CERN phiên bản AI". Hiện tại, OpenAI, Google và Anthropic dự định thành lập một tổ chức tiêu chuẩn an toàn chung vào cuối năm nay hoặc đầu năm sau, nhưng vẫn còn bất đồng về trách nhiệm kiểm tra an toàn mô hình. Altman hy vọng sẽ thiết lập giới hạn tốc độ cho phát triển AI, đồng thời cho biết OpenAI hiện không thể nhường lợi thế cạnh tranh cho đối thủ.