SemiAnalysis: HBF не является заменой HBM, стоимость и теплоотвод все еще остаются неопределенными

Сообщение ChainCatcher, исследователи P Equity Research и SemiAnalysis, включая Ника Дойла, обсуждают высокобандwidth флэш-память HBF в X Space. Ник отметил, что в настоящее время слишком рано судить о том, насколько может сократиться премия по стоимости HBF относительно HBM, так как существующие данные в основном исходят от производителей, например, Sandisk утверждает, что стоимость за бит составляет примерно одну восьмую от HBM. Уровень выхода, тестирование и другие факторы будут улучшаться с увеличением масштаба, но структурные затраты, такие как TSV, стековые технологии и режимы pSLC, будут существовать постоянно, а долговечность является ключевой неизвестной; если износ превысит ожидания, это приведет к увеличению затрат.

Сценарии применения HBF узки, они предназначены только для AI-выводов, особенно для моделей MoE с низким объемом пакетирования и длинным контекстом, и не являются заменой HBM. Фактическая цель по пропускной способности составляет около 1,6 ТБ/с, что соответствует уровню HBM3E, подходит для последовательного чтения для загрузки весов модели, более соответствующей потребностям небольшого количества GPU в локальных или частных компаниях, а не для сценариев с очень высокой пропускной способностью. Надежность охлаждения еще не решена, флэш-память рядом с GPU при высокой температуре будет ускорять деградацию, меры по разделению UCIe и ежедневному обновлению еще не были проверены.

Что касается производства, Sandisk/Kioxia обладают опытом в 3D NAND, а SK Hynix дополняет возможности стековой технологии HBM, но массовое производство еще предстоит подтвердить. В целом, рынок хранения данных движется к специализированной сегментации, нехватка NAND, как ожидается, продлится до 2028 года, HBF может еще больше повлиять на спрос и предложение.