Người phụ trách nghiên cứu ứng dụng của OpenAI: Từ 80% đến 90% nghiên cứu tập trung vào GPT-7 và các phiên bản sau

Người dùng choblin29 đã đăng bài cho biết, người phụ trách nghiên cứu ứng dụng của OpenAI, Boris Power, cho biết công ty đã có 80% đến 90% nghiên cứu tập trung vào GPT-7, GPT-8 và các mô hình tiếp theo. Power cho rằng, những cải tiến trong cùng một thế hệ mô hình được coi là đầu tư ngắn hạn, có thể được sử dụng để tăng tốc độ học hiện tại, nhưng không phải là chiến lược lâu dài.

Theo bài đăng này, con đường liên quan là trước tiên xây dựng mô hình tiên tiến lớn, sau đó sử dụng nó làm mô hình giáo viên, tinh chế thành các mô hình nhỏ hơn và rẻ hơn. Power đề cập rằng GPT-6 Astra có thể được tinh chế thành các mô hình như Luna, và cho rằng cách tốt nhất để xây dựng các mô hình chuyên dụng nhỏ là trước tiên huấn luyện các mô hình tổng quát mạnh mẽ hơn. Ông cũng cho biết, vấn đề lớn nhất hiện nay không phải là hiệu suất của mô hình, mà phần lớn người dùng vẫn chưa hiểu công việc mà AI hiện có thể hoàn thành.