deepgemm

ChainCatcher 消息，Deepseek 於開源週第三天宣布開源 DeepGEMM。DeepGEMM 是一個專為簡潔高效的 FP8 通用矩陣乘法（GEMM）設計的庫，具有細粒度縮放功能，如 DeepSeek-V3 中所提出。它支持普通和混合專家（MoE）分組的 GEMM。該庫採用 CUDA 編寫，在安裝過程中無需編譯，通過使用輕量級的即時編譯（JIT）模塊在運行時編譯所有內核。FP8GEMM 庫，為 V3/R1 訓練和推理提供支持。