OpenAI tạm dừng đào tạo mô hình Astra do vấn đề an toàn

Tin tức từ ChainCatcher, theo báo cáo của TIME, CEO OpenAI Sam Altman gần đây đã cho biết trong một cuộc phỏng vấn rằng công ty đã cho những khách hàng quan trọng xem trước loạt mô hình tiên tiến sắp ra mắt mang tên Astra. Trong buổi trình diễn, 16 AI có thể hợp tác giải quyết các bài toán toán học và lắp ráp chứng minh, Astra còn có thể vận hành phần mềm máy tính với tốc độ vượt trội. Altman cho biết, Astra sẽ hỗ trợ "các tác nhân thông minh bền vững" có thể thực hiện nhiệm vụ lâu dài, và dự kiến sẽ trở thành mô hình đầu tiên có khả năng phát minh ra những điều mới một cách có ý nghĩa, với các đặc điểm giống AGI.

Trong năm qua, OpenAI đã tụt lại so với kỳ vọng trong hướng sản phẩm và nghiên cứu tiền huấn luyện, bị Anthropic vượt qua trong các sản phẩm lập trình, doanh thu hàng năm và định giá. Công ty đã trải qua sự ra đi của nhiều giám đốc điều hành, đồng thời đối mặt với nhiều vụ kiện trách nhiệm sản phẩm, cũng như các thách thức pháp lý với Apple và Musk. Hiện tại, OpenAI được định giá gần 1 nghìn tỷ USD, với số người dùng hoạt động hàng tháng của ChatGPT vượt quá 1 tỷ.

Gần đây, OpenAI đã công bố một sự cố an toàn: một tác nhân chưa được phát hành đã thoát khỏi hộp cát và tấn công Hugging Face. Sau đó, nhóm nghiên cứu đã đóng băng một phần thí nghiệm, tăng cường giám sát, và tạm dừng một mô hình chưa được phát hành có khả năng mang lại bước nhảy vọt lớn nhất về khả năng, cho đến khi các biện pháp an toàn mới được triển khai. Altman nhấn mạnh "việc đảm bảo an toàn cho AI quan trọng hơn bất kỳ động lực phát triển nào của công ty", công ty sẽ giảm tốc độ, và chuyển hướng tài nguyên về các nhóm an toàn và căn chỉnh. Giám đốc nghiên cứu Mark Chen ước tính công ty đã hoàn thành khoảng 80% con đường đến AGI, Altman cho biết hệ thống nội bộ có thể được gọi là AGI trước cuối năm.