DeepSeek 開源昇騰基礎組件,覆蓋編譯、計算與通信庫
ChainCatcher 消息,人工智慧公司 DeepSeek 正式開源面向華為昇騰算力平台的基礎設施組件,涵蓋 TileLang 高級語言編譯工具、計算庫和分佈式通信庫,並與此前面向英偉達平台的開源組件一一對應。TileLang 旨在提供通用、編程更簡單且能達到硬體性能上限的高級語言,相對 CUDA 可提高開發效率並簡化邏輯,其編程模型也可發揮晶片特性。TileLang 路線先在英偉達平台驗證,並已承載 DeepSeek V4 系列模型訓練中大部分算子的實現。本次開源的昇騰版本對昇騰 Ascend C 底層指令進行封裝,在不損失硬體性能的情況下提供高級語言編程方式。目前,DeepSeek 訓練中用到的每一個 TileLang 算子,在昇騰上都有對應的高性能實現。同期开源的組件還包括 DeepGEMM、DeepEP、TileKernels、FlashMLA 和 DeepSelect,分別用於通用矩陣運算、大規模跨設備通信、常規向量計算與訪存、長上下文稀疏注意力以及數據篩選。DeepSeek 稱,多項關鍵測試中相關計算與通信性能已接近硬體上限;研發過程中華為團隊給予支持,雙方合作推進基於昇騰 950 的 128 卡超節點方案,並對計算與通信做了深度優化。