vllm

MiniMaxは10月23日にMiniMax M3.1 Flashモデルの重みをオープンソース化したと発表しました。総パラメータは428B、活性化パラメータは23Bです。前世代のM3モデルと比較して、M3.1 Flashのモデル能力は全面的に向上しました。公式データによると、このモデルがオンラインになってから72時間以内に、実際のユーザーが処理したトークンの数は1兆を超えました。技術面では、M3.1 Flashは全モデルのスパースアテンション、量子化感知トレーニング（QAT）、およびPower-awareスケジューリングなどの最適化を通じて推論効率を向上させています。エコシステムの面では、MiniMaxはHuawei Ascend、平頭哥、昆仑芯、摩尔线程、壁仞、海光、沐曦、天数、NVIDIA、AMDなどのチップメーカー、さらにTogether AI、Fireworks、Nebius、Baseten、Modal、DigitalOceanなどのクラウドプラットフォームと協力して、オープンソース初日の接続を推進しています。vLLM、SGLang、智源FlagOSおよびHugging Face、魔搭などのコミュニティも、異なるチップおよび開発環境でのモデルの展開を同時にサポートしています。