Vua Charles triệu tập các giám đốc điều hành của OpenAI, Anthropic, NVIDIA và những người khác để thảo luận về an toàn AI

Vào ngày 17 tháng 9, Vua Charles III của Vương quốc Anh đã triệu tập các giám đốc điều hành của Nvidia, OpenAI, Anthropic và Google DeepMind tại điền trang Dumfries ở quận East Ayrshire, Scotland để tổ chức hội nghị thượng đỉnh về an toàn AI, kêu gọi đặt trí tuệ nhân tạo "vào quỹ đạo phục vụ nhân loại". Hội nghị này được tổ chức chung bởi Quỹ Ditchley và ba tổ chức từ thiện của nhà vua, Bộ trưởng AI của Vương quốc Anh Kanishka Narayan cũng tham dự. Cung điện Buckingham cho biết, các đại diện tham dự đã thảo luận về khả năng ngành công nghiệp và chính phủ có thể đạt được sự đồng thuận về một bộ nguyên tắc phát triển AI chung hay không, nhưng không công bố bất kỳ thỏa thuận ràng buộc nào.

Vài ngày trước khi hội nghị diễn ra, Giám đốc điều hành của Anthropic, Dario Amodei, đã công bố một bài viết dài mang tên "Chúng ta phải điều chỉnh tốc độ biên giới", kêu gọi ngành công nghiệp nên cố ý làm chậm tốc độ nâng cao khả năng của mô hình. Sam Altman của OpenAI và Elon Musk của xAI đều công khai bày tỏ sự đồng tình trong cùng một ngày. Amodei trong bài viết đã chỉ ra rằng, các hệ thống AI ngày càng có khả năng cải thiện các thế hệ kế tiếp của chính chúng, và đề cập đến một sự cố trốn thoát của một thực thể AI của OpenAI. Tổng thống OpenAI, Greg Brockman, xác nhận rằng sự cố này đã buộc công ty phải hoãn nhiều đợt phát hành và tái cấu trúc quy trình phát triển và giám sát mô hình, đồng thời nhấn mạnh rằng việc làm chậm chỉ nên áp dụng cho các phòng thí nghiệm xây dựng các hệ thống tiên tiến mạnh mẽ nhất. Ngày giao dịch đầu tiên sau khi thông tin được công bố, Nvidia đã giảm 3%, Intel giảm hơn 5%, AMD giảm khoảng 6%.