BTC $79,910.52 -1.15%
ETH $2,305.36 -2.04%
BNB $749.07 +0.63%
XRP $1.29 -2.86%
SOL $99.81 -1.66%
TRX $0.3302 -0.10%
DOGE $0.0779 -1.88%
ADA $0.1976 -4.23%
BCH $282.77 -4.82%
LINK $11.37 -2.56%
HYPE $78.39 -3.37%
AAVE $129.83 -3.62%
SUI $0.9079 -3.14%
XLM $0.1680 -2.07%
ZEC $1,238.84 -5.43%
AAPL $346.49 -0.12%
AMZN $252.49 -0.90%
GOOGL $293.72 -10.10%
MSFT $549.65 +3.52%
META $615.22 -1.13%
NVDA $212.99 -2.54%
TSLA $399.10 -2.31%
SNDK $1,343.75 -0.41%
INTC $91.55 -3.56%
SPCX $143.44 -4.22%
MU $947.64 -1.23%
AMD $556.70 -2.19%
BTC $79,910.52 -1.15%
ETH $2,305.36 -2.04%
BNB $749.07 +0.63%
XRP $1.29 -2.86%
SOL $99.81 -1.66%
TRX $0.3302 -0.10%
DOGE $0.0779 -1.88%
ADA $0.1976 -4.23%
BCH $282.77 -4.82%
LINK $11.37 -2.56%
HYPE $78.39 -3.37%
AAVE $129.83 -3.62%
SUI $0.9079 -3.14%
XLM $0.1680 -2.07%
ZEC $1,238.84 -5.43%
AAPL $346.49 -0.12%
AMZN $252.49 -0.90%
GOOGL $293.72 -10.10%
MSFT $549.65 +3.52%
META $615.22 -1.13%
NVDA $212.99 -2.54%
TSLA $399.10 -2.31%
SNDK $1,343.75 -0.41%
INTC $91.55 -3.56%
SPCX $143.44 -4.22%
MU $947.64 -1.23%
AMD $556.70 -2.19%

オープンウェイト

すべて
記事
速報

first_img ウルトラマンはAIが少数の権力者の手に落ちることを心配し、誰かが過度に緊張していると述べた。

ビジネスインサイダーの報道によると、OpenAIのCEOサム・アルトマンはデイビッド・センラのポッドキャストで、AIが将来的に少数の企業、モデル、または個人によって支配されることを懸念しており、その結果、大多数の消費者が技術が世界をどのように形作るかについての発言権を失うことになると述べました。彼は、正しい方法は人々が未来をしっかりと掌握することであり、社会とモデルが共に進化していくべきだと述べました。アルトマンはまた、AIが人間の制御を離れることを懸念しています。彼は、後者のリスクに対する過度の恐れが前者の状況を現実にする可能性があると指摘し、緊張から大量の自由を犠牲にして安全を求める主張が出てくることがあると述べました。記事は、これはAnthropicのCEOダリオ・アモデイを暗に指している可能性があり、彼はAIのリスクについて何度も警告し、政府の規制を強化するよう呼びかけています。Anthropicは、オープンウェイトモデルの公開書簡に署名していない唯一の主流AI企業です。OpenAIは最先端モデルをオープンソース化していませんが、昨年、gpt-oss-120bとgpt-oss-20bという2つのオープンウェイトモデルを発表しました。アルトマンはまた、アメリカのAIリーダーたちがこの技術が生活の自主性をどのように向上させるかを十分に一般に示していないと述べ、最大規模のスタートアップブームが訪れると予測しており、AIはより多くの人々に小規模企業を設立する能力を与えていると述べました。

コインベース:AI支出を約50%削減し、オープンウェイトモデルのデフォルト採用を試みている

CoinbaseのCEOブライアン・アームストロングは、AIコスト最適化に関する最新の進展を紹介する投稿を行いました。アームストロングは、AIの使用量とトークン消費が継続的に増加する中で、コストを管理する鍵は従業員の使用を制限したり、頻繁に予算リマインダーを送信することではなく、デフォルトモデルの選択、タスクルーティングメカニズム、キャッシュ戦略を最適化することだと述べました。彼は、Coinbaseが内部LLMゲートウェイを通じてGLM 5.2、Kimi 2.7などのオープンウェイトモデルをデフォルトオプションとして試みていることを明らかにしましたが、エンジニアが具体的なタスクのニーズに応じて他のモデルを選択することも許可しています。データによると、会社の91%の従業員はAI使用の上限に達したことがないため、Coinbaseはクォータを厳しくすることを選択せず、より低コストのモデルソリューションを通じて全体の効率を向上させています。モデルルーティングに関して、Coinbaseはプロンプトを前処理し、キャッシュヒット率や異なるモデルの価格状況を組み合わせて、タスクを最も適切なモデルに自動的に割り当てます。アームストロングは、計画や推論などの複雑なタスクには最先端モデルのサポートが必要かもしれないが、実行系のタスクは必ずしもコストの高いモデルを呼び出す必要はないと考えています。将来的には、モデル選択プロセスはより多くAIによって自動的に行われるべきであり、人工的な意思決定に依存すべきではないと述べました。さらに、彼はキャッシュヒット率がAIコストに影響を与える重要な要素の一つであることを指摘しました。Coinbaseはリクエストプロセスにキャッシュ認識メカニズムを組み込み、歴史的な結果の再利用率を向上させています。LibreChatの例を挙げると、キャッシュソリューションを最適化した後、そのキャッシュヒット率は5%から60%に向上しました。アームストロングはまた、会社がエンジニアに対して文脈をできるだけ簡潔に保つよう求めていることを述べました。これには、タスクを切り替える際に新しいセッションを開始すること、ファイルの文脈範囲を縮小すること、未使用のツールを閉じることなどが含まれ、不要なトークン消費を減らすことを目的としています。彼によれば、これらの措置を通じて、CoinbaseはAI支出を約50%削減することに成功し、同時にトークン使用量は依然として増加を維持しています。
app_icon
ChainCatcher Building the Web3 world with innovations.