Micron предупреждает, что AI хранилище стена усиливается, HBM составляет около 17% прерывания обучения Meta Llama 3

Сообщение ChainCatcher, согласно отчету TrendForce, на Hot Chips 2026 Micron подчеркивает, что прогресс в вычислительной мощности ИИ опережает улучшения в хранении, и проблема "стенки хранения" становится все более актуальной. Феллоу Micron Рагху Срираманени отметил, что вычислительная мощность ускорителей ИИ увеличивается примерно в три раза каждые два года, в то время как увеличение пропускной способности HBM за тот же период составляет менее чем в два раза, и разрыв может еще больше увеличиться. Углубленная зависимость от HBM также приводит к проблемам надежности; Micron ссылается на данные Meta Llama 3, согласно которым сбои HBM составляют около 17% неожиданных прерываний обучения. Новые дизайны, размывающие границы вычислений и хранения, могут помочь преодолеть узкие места.

Расширение HBM также создает давление на площадь и поставки: последняя версия упаковки интегрирует два GPU с восемью 12-слойными HBM4 стеком, при этом хранение занимает около 90% площади полупроводников, что в восемь раз больше площади, занимаемой GPU; для достижения аналогичной емкости с HBM требуется в три раза больше кремниевых пластин стандартного DDR5 DRAM. Тепловое управление также становится ключевым ограничением, исследуются такие решения, как жидкостное охлаждение и сверхтонкие чипы.

Micron продвигает инновации в области межсоединений, упаковки и охлаждения, включая SerDes и die-to-die PHY, оптимизированные для хранения, более крупные SiP и передовые упаковки на стеклянных подложках, а также жидкостное охлаждение и смешанное соединение, и разрабатывает fusion bonding для снижения теплового сопротивления и повышения пропускной способности данных.