마이크론 경고 AI 저장벽 심화, HBM은 메타 라마 3 훈련 중단의 약 17%를 차지함

TrendForce에 따르면, Hot Chips 2026에서 마이크론은 AI 연산 능력이 저장 용량 향상보다 빠르게 발전하고 있으며, "저장 장벽"의 도전이 점점 더 두드러지고 있다고 강조했습니다. 마이크론의 펠로우 라구 스리라마넨이는 AI 가속기 연산 능력이 약 2년마다 3배 증가하는 반면, HBM 대역폭의 동기 증가폭은 2배에 미치지 못해 그 차이가 더욱 확대될 수 있다고 지적했습니다. HBM에 대한 의존도가 심화되면서 신뢰성 문제도 발생하고 있으며, 마이크론은 메타 라마 3 데이터를 인용하여 HBM 고장이 비예상 훈련 중단의 약 17%를 차지한다고 밝혔습니다. 모호한 계산과 저장 경계의 새로운 설계가 병목 현상을 돌파하는 데 도움이 될 수 있습니다.

HBM 확장은 면적과 공급 압력도 가져옵니다: 최신 세대 패키지는 두 개의 GPU와 여덟 개의 12층 HBM4 스택을 통합하여 저장이 반도체 면적의 90%를 차지하며, GPU가 차지하는 면적의 8배를 초과합니다; HBM으로 동일 용량을 구현하려면 표준 DDR5 DRAM의 3배 웨이퍼가 필요합니다. 열 관리 또한 중요한 제약 조건이 되며, 액체 냉각 및 초박형 칩과 같은 솔루션이 탐색되고 있습니다.

마이크론은 저장 최적화를 위한 SerDes 및 die-to-die PHY, 더 큰 크기의 SiP 및 유리 기판 고급 패키징, 액체 냉각, 혼합 접합 등을 포함한 상호 연결, 패키징 및 냉각 혁신을 추진하고 있으며, 열 저항을 줄이고 데이터 처리량을 향상시키기 위해 퓨전 본딩을 개발하고 있습니다.