cache命中率

21世紀の経済報道によると、月の暗い面（Moonshot AI）のKimi B部門責任者である黄震昕は、最近のコミュニケーション会議で、現在のAI業界には確かにバブルが存在するが、ファンダメンタルは非常に堅実であると述べた。企業側は投資回収率（ROI）を明確に計算でき、AIによる生産性の向上は実質的な性質の変化をもたらしている。最近のモデルメーカーの価格上昇の現象について、黄震昕は、核心的な理由は世界的な計算力コストの上昇にあり、チップの生産能力がトークン需要の爆発的な増加に対応できていないことだと指摘した。彼は、モデルのコストパフォーマンスを評価する際には、入力と出力の単価だけでなく、キャッシュ（キャッシュ）ヒット率にも注目すべきだと強調した。Kimiの原工場のキャッシュヒット率は90％以上に達しており、実際の計算コストを大幅に削減しているという。さらに、黄震昕は、Kimiがスケーリング法則を維持するために基盤アーキテクチャの革新に挑戦し続けることを明らかにし、彼が先駆けて大規模に検証したMuonオプティマイザーは、業界の多くの主流大モデルに広く採用されている。企業AIの実装における「最後の1マイル」について、彼はモデルの基礎能力が継続的に強化されるにつれて、アプリケーション層の技術パラダイムも引き続き簡素化されると考えている。