SemiAnalysis: HBF không phải là sự thay thế cho HBM, chi phí và tản nhiệt vẫn còn sự không chắc chắn
Tin tức từ ChainCatcher, các nhà nghiên cứu P Equity Research và SemiAnalysis, bao gồm Nick Doyle, đã thảo luận về bộ nhớ flash băng thông cao HBF tại X Space. Nick cho biết, hiện tại vẫn còn quá sớm để xác định mức chênh lệch chi phí của HBF so với HBM có thể thu hẹp bao nhiêu, dữ liệu hiện có chủ yếu là từ các nhà sản xuất, chẳng hạn như Sandisk cho biết chi phí mỗi bit khoảng một phần tám so với HBM. Tỷ lệ sản xuất, thử nghiệm, v.v. sẽ cải thiện theo quy mô, nhưng chi phí cấu trúc như TSV, xếp chồng và chế độ pSLC sẽ tồn tại vĩnh viễn, độ bền là yếu tố chưa biết chính, nếu hao mòn vượt quá dự kiến sẽ đẩy chi phí lên cao.Ứng dụng của HBF rất hạn chế, chỉ hướng tới suy diễn AI, đặc biệt là các mô hình MoE với batch thấp và ngữ cảnh dài, không phải là sản phẩm thay thế HBM. Mục tiêu băng thông thực tế khoảng 1.6 TB/s, thuộc cấp độ HBM3E, phù hợp cho việc đọc tuần tự để tải trọng số mô hình, phù hợp hơn với nhu cầu dung lượng của một số GPU tại chỗ hoặc doanh nghiệp tư nhân, không phải là các tình huống băng thông quy mô lớn. Độ tin cậy tản nhiệt vẫn chưa được giải quyết, bộ nhớ flash bên cạnh GPU ở nhiệt độ cao sẽ tăng tốc độ suy giảm, các biện pháp giảm thiểu như tách UCIe và làm mới hàng ngày vẫn chưa được xác minh.Về sản xuất, Sandisk/Kioxia có kinh nghiệm về 3D NAND, SK Hynix bổ sung khả năng xếp chồng kiểu HBM, nhưng sản xuất hàng loạt vẫn cần được xác nhận. Nhìn chung, thị trường lưu trữ đang chuyển sang phân khúc chuyên môn hóa theo tầng, tình trạng thiếu hụt NAND dự kiến sẽ kéo dài đến năm 2028, HBF có thể ảnh hưởng thêm đến cung cầu.
