整體基礎設施

ChainCatcher 消息，SK海力士在最新文章中表示，AI競爭正從單一晶片性能轉向整個基礎設施架構的設計與運營。AI 資料中心的競爭力不再取決於單個元件，而在於計算、記憶體、儲存、網路及供電散熱五大要素能否無縫整合。文章指出，AI模型規模持續擴大帶來算力和資料移動需求激增。訓練需反覆讀取海量資料集，推理則依賴快速檢索用戶請求資訊，兩者都對資料中心的系統架構提出更高要求。記憶體層面，HBM、伺服器DRAM等已形成分層系統，各自承擔不同頻寬與容量任務。網路層面，隨著大規模式訓練和推理依賴多伺服器並行處理，網路已成為決定資料中心可擴展性的關鍵因素。系統設計正從單伺服器向整機架和集群級擴展。據 Omdia 預測，AI資料中心晶片市場將從 2024 年的 1230 億美元增至 2025 年 2070 億美元，2030年將達2860億美元。SK海力士還提及微軟威斯康星州Fairwater資料中心長約5個足球場，表明基礎設施正以更大規模部署。SK 海力士強調，記憶體正成為連接計算與資料的關鍵層級。