Tài liệu truyền trên mạng: Hiệu suất suy luận của Ascend 950DT đạt 86% so với H200
Vào ngày 18 tháng 11, tài khoản nội dung AI Max For AI cho biết, một tài liệu có tiêu đề "Báo cáo kiểm tra hiệu suất và tính toán lợi ích kinh doanh của Ascend 950DT" đã được lưu hành trong cộng đồng liên quan đến sức mạnh tính toán. Ngày tháng của tài liệu được ghi là tháng 10 năm nay, nội dung cho thấy đây là báo cáo thử nghiệm nội bộ của China Mobile. Theo tài liệu, vào ngày 10 tháng 10, nhiều bộ phận của China Mobile đã thành lập một đội ngũ liên hợp, đến Trung tâm nghiên cứu và phát triển Luyện Thu Hồ của Huawei, sử dụng siêu nút Ascend 950DT với 64 thẻ để thực hiện thử nghiệm thực tế với GLM 5.2 và DeepSeek V4 Pro.
Dữ liệu hiệu suất được cung cấp trong tài liệu dựa trên kịch bản đầu vào 16K / đầu ra 2K của GLM 5.2. Về tổng thông lượng của từng thẻ, Ascend 910B4 đạt 169 tokens/s, 910C đạt 483 tokens/s, 950DT đạt 1951 tokens/s, lần lượt gấp khoảng 11.5 lần 910B4 và 4 lần 910C. Tài liệu trích dẫn dữ liệu vLLM, ước tính hiệu suất của Nvidia H200 trong kịch bản tương ứng khoảng 2200 tokens/s, tương ứng với 950DT khoảng 89% của H200; một nhóm dữ liệu khác 7K/2K khoảng 82%. Kết luận cuối cùng của tài liệu nêu rõ, hiệu suất suy diễn của 950DT đạt 86% của H200.
Về tính toán chi phí, tài liệu liệt kê giá của máy chủ 8 thẻ theo giá thu mua tập trung: 950DT khoảng 2.97 triệu nhân dân tệ, 910C khoảng 2.15 triệu nhân dân tệ, 910B4 khoảng 650,000 nhân dân tệ. Khi tính đến thiết bị, bảo trì, cơ sở hạ tầng và IDC và phân bổ trong 5 năm, chi phí hàng tháng lần lượt khoảng 63,600 nhân dân tệ, 48,700 nhân dân tệ và 16,100 nhân dân tệ. Tài liệu tính toán rằng, hiệu suất suy diễn chi phí đơn vị của 950DT khoảng gấp 3.1 lần 910C và 2.9 lần 910B4. Chi phí thuê máy chủ vật lý ước tính cho 950DT là 84,300 nhân dân tệ mỗi tháng, H200 khoảng 130,000 nhân dân tệ, và nêu rõ rằng tỷ lệ hiệu suất chi phí của 950DT cao hơn H200 khoảng 30%.






