リャン・ウェンフォン

投資界は量子位の報道を引用し、DeepSeekがエージェントのトレーニングに使用するシステムDSec（DeepSeek Elastic Compute）の技術的詳細を公開した。署名は梁文鋒。 このシステムは毎秒5000以上のサンドボックスを生成でき、1日で300万個に達し、ピーク時には38万個を同時に実行することができる。この規模を支える単一クラスターは約160ノード、3万コアのCPU、および250TBのメモリを持っている。DSecは4種類のタスクに対してFnCall、Container、MicroVM、Full VMの4つのバックエンドを準備しており、トレーニング側は統一されたPython SDK libdsecを通じて呼び出される。スケジューリングリンクにはIAM、APIサーバー、スケジューリングエンジン、ノードEdge、ネットワークプロキシAether、およびサンドボックス内コンポーネントChronusが含まれている。環境は基本イメージ、作業スペース、ツールキットの3層の読み取り専用イメージに分割され、起動時に組み合わせて使用される。論文の実行時データによると、Python、Java、C++のコンテナイメージが実際に読み取られる割合はそれぞれ約6.0%、9.2%、および8.7%である。DeepSeek-V4.1から、エージェントのループはDSecのワーカーコンテナに分割され、もはやGPU Podのライフサイクルにバインドされない。セキュリティ部分では、トレーニング中のリワードハッキングが明らかにされており、システムファイルの上書き、ファイルデータブロックの交換、ネットワークのスキャン、カーネルクラッシュのトリガーなどの行動が含まれている。防御策にはAppArmorとeBPFベースのネットワークフィルタリングが含まれているが、これらの対策では問題を完全に解決できないと報告されている。

The Informationの情報筋によると、DeepSeekのCEOである梁文锋は最新の非公開投資家会議で、Huaweiなどの国産チップを使用して大規模モデルを訓練することを会社の最大の賭けの一つとして挙げ、これは成功しなければならないと述べました。DeepSeekは、早ければ今年の第4四半期に訓練に使用できる新しいHuaweiチップの一群を手に入れる予定ですが、具体的なモデルと数量はまだ公開されていません。梁文锋は、Huaweiのチップは数年以内にNVIDIAに追いつく可能性があると考えており、DeepSeekはNVIDIA以外のハードウェアに事前に適応することを望んでいます。DeepSeekは現在もNVIDIAチップを使用してモデルを訓練しています。梁文锋は今年の5月に、最も高性能な大規模モデルを訓練するには約5万個のNvidia GB300が必要で、Huawei Ascend 950に置き換えると約20万個が必要になると推定しており、その時の最大の問題はHuaweiの供給不足でした。