Grayscale Giám đốc Nghiên cứu: Các đại lý AI rẻ hơn sẽ thúc đẩy nhu cầu về sức mạnh tính toán

Grayscale nghiên cứu giám đốc Zach Pandl vào ngày 8 tháng 10 đã đăng bài trên chuyên mục The Stack cho biết, nhu cầu về AI đang tăng lên do chi phí sử dụng giảm và công nghệ có khả năng tự hoàn thành công việc tốt hơn, từ đó làm tăng nhu cầu về sức mạnh tính toán và cơ sở hạ tầng vật lý hỗ trợ AI. Chi phí thấp hơn có thể giải phóng nhiều hoạt động AI hơn, sự cạnh tranh giá thấp của các mô hình trọng số mã nguồn mở đang làm giảm giá token, và trí tuệ nhân tạo rẻ hơn có thể khiến nhiều ứng dụng và quy trình tự động trở nên khả thi về mặt kinh tế.

Trong bài viết, có ví dụ, mô hình Sonnet mới nhất của Anthropic theo công ty cho biết chi phí cho mỗi nhiệm vụ có thể thấp hơn tới 30%; OpenAI đã ra mắt đại lý luôn mở dots vào ngày 29 tháng 9 có thể làm việc hướng tới mục tiêu của người dùng suốt cả ngày, có thể làm tăng đáng kể nhu cầu về sức mạnh tính toán. Pandl so sánh rằng, chatbot chủ yếu trả lời câu hỏi, trong khi đại lý thực hiện nhiều quy trình để đạt được mục tiêu, chuẩn bị cho các cuộc họp với khách hàng có thể tiêu tốn token tương đương từ 5 đến 50 lần một lần tương tác trò chuyện, đại lý luôn mở còn có thể mở rộng xử lý ra ngoài một cuộc đối thoại đơn lẻ.

Pandl trích dẫn Goldman Sachs dự đoán rằng, đến năm 2030, mức tiêu thụ token có thể tăng 24 lần, chủ yếu do đại lý thúc đẩy; ngay cả khi hiệu suất được cải thiện, nếu mức sử dụng tăng nhanh hơn, tổng nhu cầu sức mạnh tính toán vẫn có thể tăng. Ông chỉ ra rằng, các hoạt động kỹ thuật số vẫn phụ thuộc vào điện, trung tâm dữ liệu và GPU, những thứ cần thời gian để cung cấp cơ sở hạ tầng vật lý, AI rẻ hơn có thể đồng tồn tại với nguồn cung sức mạnh tính toán căng thẳng và đề cập rằng CoreWeave gần đây đã ký hợp đồng mới với giá sức mạnh tính toán cao hơn. Kết luận của ông là, trí tuệ nhân tạo rẻ hơn và đại lý mạnh hơn có thể mở rộng trường hợp sử dụng và mức sử dụng đủ để bù đắp cho sự cải thiện hiệu suất, từ đó hỗ trợ nhu cầu sức mạnh tính toán khan hiếm và có lợi cho các chủ sở hữu của nó.