SK 하이닉스: AI 데이터 센터 경쟁이 단일 칩에서 전체 인프라 아키텍처로 전환되고 있다

SK 하이닉스는 최신 기사에서 AI 경쟁이 단일 칩 성능에서 전체 인프라 아키텍처의 설계 및 운영으로 전환되고 있다고 밝혔습니다. AI 데이터 센터의 경쟁력은 더 이상 개별 구성 요소에 의존하지 않으며, 컴퓨팅, 메모리, 스토리지, 네트워크 및 전원 냉각의 다섯 가지 요소가 원활하게 통합될 수 있는지에 달려 있습니다.

기사에서는 AI 모델 규모의 지속적인 확대가 계산 능력과 데이터 이동 수요의 급증을 가져온다고 지적했습니다. 훈련은 방대한 데이터 세트를 반복적으로 읽어야 하며, 추론은 사용자 요청 정보를 빠르게 검색하는 데 의존하므로 두 가지 모두 데이터 센터의 시스템 아키텍처에 더 높은 요구 사항을 제기합니다. 메모리 측면에서 HBM, 서버 DRAM 등은 이미 계층화된 시스템을 형성하여 각기 다른 대역폭 및 용량 작업을 수행하고 있습니다. 네트워크 측면에서는 대규모 모델 훈련과 추론이 다수의 서버 병렬 처리를 의존함에 따라 네트워크가 데이터 센터의 확장성을 결정하는 핵심 요소가 되었습니다. 시스템 설계는 단일 서버에서 전체 기계 선반 및 클러스터 수준으로 확장되고 있습니다.

Omdia의 예측에 따르면, AI 데이터 센터 칩 시장은 2024년 1230억 달러에서 2025년 2070억 달러로 증가하고, 2030년에는 2860억 달러에 이를 것으로 보입니다. SK 하이닉스는 또한 마이크로소프트의 위스콘신주 페어워터 데이터 센터가 약 5개의 축구장 길이임을 언급하며 인프라가 더 큰 규모로 배치되고 있음을 나타냈습니다. SK 하이닉스는 메모리가 컴퓨팅과 데이터를 연결하는 핵심 계층이 되고 있다고 강조했습니다.