オープンウェイト

ゴールドマン・サックスのアジアインターネット研究責任者ロナルド・キューンは、中国のAIモデルの世界的な使用量が急増する中で、開発者がクラウドプラットフォームに商業ライセンス料を請求し始める可能性があると述べています。現在、中国のほとんどのモデルは MIT License などの緩やかなライセンスの下で公開されており、商業用途を含め、すべてのユーザーが無料で使用、変更、ホスティングすることが許可されています。キューンは、中国のAIモデルである月の暗面のKimi K3 と智谱AIのGLM-5.2 が、アメリカのトップモデルのレベルに近づいていることを指摘しました。国内および世界の中小企業の採用速度は非常に速く、大企業も中国モデルの使用を検討し始めています。ゴールドマン・サックスは、モデル開発者が第三者サービスプロバイダーに商業ライセンスの購入を要求することで、自社のインフラ上でモデル推論を実行し、増加するオープンソースの使用を実際の収益に変換できると考えています。

金十の報道によると、NVIDIAのCEOである黄仁勲はソーシャルメディアプラットフォームで動向を発表し、「オープンウェイトとアメリカのAIリーダーシップ」という題名の手紙を共有し、オープンウェイトの人工知能モデルの発展を促進するよう呼びかけました。黄仁勲が最初に発表した手紙には25の連署がありましたが、現在ではその連署者が50社に増え、数が倍増しました。OpenAIは新たに加わった25の機関の一つで、他にはGoogle、AMD、Cisco、Cloudflare、GitHub、Block、Ollamaが含まれています。しかし、AnthropicとAmazonはどのバージョンのリストにも登場せず、これら2社の不在がこのリストで最も注目すべき詳細です。

英伟达のCEO、黄仁勋が個人の初ツイートを発表し、英伟达など20以上のテクノロジー企業および機関が連名した公開書簡「オープンウェイトとアメリカのAIリーダーシップ」を共有しました。公開書簡では、オープンウェイトモデルがAI経済へのアクセスを拡大し、市場競争を強化し、ユーザーにより多くのコントロールを与えることができると述べています。連名にはMeta、マイクロソフト、Andreessen Horowitz、Hugging Face、IBM、Mistral AI、Palantir、Perplexity、Mozilla、Y Combinatorなどが含まれています。書簡では、オープンウェイトモデルにはリスクが存在するものの、禁止によって発展を制限すべきではなく、オープンを利用してAIの安全性とサイバーセキュリティ能力の向上を図るべきだとしています。黄仁勋は「世界は最先端のクローズドモデルも必要だが、最先端のオープンモデルも必要だ」と述べています。

CoinbaseのCEOブライアン・アームストロングは、AIコスト最適化に関する最新の進展を紹介する投稿を行いました。アームストロングは、AIの使用量とトークン消費が継続的に増加する中で、コストを管理する鍵は従業員の使用を制限したり、頻繁に予算リマインダーを送信することではなく、デフォルトモデルの選択、タスクルーティングメカニズム、キャッシュ戦略を最適化することだと述べました。彼は、Coinbaseが内部LLMゲートウェイを通じてGLM 5.2、Kimi 2.7などのオープンウェイトモデルをデフォルトオプションとして試みていることを明らかにしましたが、エンジニアが具体的なタスクのニーズに応じて他のモデルを選択することも許可しています。データによると、会社の91%の従業員はAI使用の上限に達したことがないため、Coinbaseはクォータを厳しくすることを選択せず、より低コストのモデルソリューションを通じて全体の効率を向上させています。モデルルーティングに関して、Coinbaseはプロンプトを前処理し、キャッシュヒット率や異なるモデルの価格状況を組み合わせて、タスクを最も適切なモデルに自動的に割り当てます。アームストロングは、計画や推論などの複雑なタスクには最先端モデルのサポートが必要かもしれないが、実行系のタスクは必ずしもコストの高いモデルを呼び出す必要はないと考えています。将来的には、モデル選択プロセスはより多くAIによって自動的に行われるべきであり、人工的な意思決定に依存すべきではないと述べました。さらに、彼はキャッシュヒット率がAIコストに影響を与える重要な要素の一つであることを指摘しました。Coinbaseはリクエストプロセスにキャッシュ認識メカニズムを組み込み、歴史的な結果の再利用率を向上させています。LibreChatの例を挙げると、キャッシュソリューションを最適化した後、そのキャッシュヒット率は5%から60%に向上しました。アームストロングはまた、会社がエンジニアに対して文脈をできるだけ簡潔に保つよう求めていることを述べました。これには、タスクを切り替える際に新しいセッションを開始すること、ファイルの文脈範囲を縮小すること、未使用のツールを閉じることなどが含まれ、不要なトークン消費を減らすことを目的としています。彼によれば、これらの措置を通じて、CoinbaseはAI支出を約50%削減することに成功し、同時にトークン使用量は依然として増加を維持しています。