Người đồng sáng lập DeepMind cho rằng AGI có thể được hiện thực hóa trong vài năm tới, kêu gọi thành lập cơ quan quản lý tiêu chuẩn AI tiên tiến

Theo thông tin từ ChainCatcher, đồng sáng lập Google DeepMind, Demis Hassabis, gần đây đã dự đoán rằng trí tuệ nhân tạo tổng quát (AGI) có thể chỉ mất vài năm để đạt được, với tác động cách mạng của nó sẽ gấp 10 lần cuộc cách mạng công nghiệp, và tốc độ phát triển sẽ nhanh hơn 10 lần. Ông chỉ ra rằng, khi các mô hình tiên tiến ngày càng cho thấy rủi ro tiềm ẩn trong các lĩnh vực như an ninh mạng, năng lượng hạt nhân và sinh học, ngành công nghiệp cần khẩn trương thiết lập một hệ thống bảo vệ an toàn vững chắc cho các hệ thống AI có khả năng tự chủ và tự cải tiến trong tương lai.

Để cân bằng giữa đổi mới công nghệ và rủi ro an toàn, Hassabis kêu gọi Mỹ dẫn đầu trong việc thiết lập một "cơ quan tiêu chuẩn AI tiên tiến" tương tự như Cục Quản lý Ngành Tài chính (FINRA). Cơ quan này dự kiến sẽ áp dụng mô hình hợp tác công tư hoặc tổ chức tự quản, được quản lý bởi các chuyên gia công nghệ độc lập và đại diện từ cộng đồng mã nguồn mở, chủ yếu hoạt động thông qua đầu tư từ ngành. Chức năng cốt lõi của nó là xây dựng các thỏa thuận đánh giá khoa học động, trong giai đoạn đầu sẽ yêu cầu các phòng thí nghiệm tiên tiến tự nguyện nộp đơn xin xem xét 30 ngày trước khi phát hành mô hình, và dự kiến cuối cùng sẽ chuyển sang kiểm tra quyền truy cập thị trường bắt buộc, trong khi các mô hình không tiên tiến của các công ty khởi nghiệp hoặc tổ chức học thuật sẽ được miễn. Khung này nhằm đối phó với các cuộc khủng hoảng chưa biết thông qua cơ chế xem xét do công nghệ dẫn dắt, và từ đó thúc đẩy cộng đồng quốc tế đạt được sự đồng thuận về quản lý rủi ro AI toàn cầu.