DeepSeek オープンソースウィークを開始

ChainCatcher のメッセージ、DeepSeek は本日「オープンソースウィーク」を開始し、最初のオープンソースのコードベースは Flash MLA------Hopper GPU に最適化された効率的な MLA デコーディングカーネルで、可変長シーケンスの処理のために設計されています。

紹介によると、Flash MLA のインスピレーションは FlashAttention 2\&3 と cutlass プロジェクトから得られました。