BTC $60,824.66 +0.98%
ETH $1,709.41 +1.38%
BNB $557.03 +1.84%
XRP $0.9230 -0.75%
SOL $70.23 -0.49%
TRX $0.3050 +0.01%
DOGE $0.0550 -0.42%
ADA $0.1443 -0.19%
BCH $198.19 -0.54%
LINK $8.77 +1.53%
HYPE $62.60 +2.39%
AAVE $98.93 -1.41%
SUI $0.6578 +1.21%
XLM $0.1277 -0.92%
ZEC $795.77 +0.39%
AAPL $350.22 +0.35%
AMZN $255.07 +0.47%
GOOGL $274.60 +0.85%
MSFT $501.16 +0.66%
META $575.29 +0.65%
NVDA $133.06 +2.33%
TSLA $358.88 +1.11%
SNDK $82.82 +2.88%
INTC $53.79 +1.38%
SPCX $130.61 -0.09%
MU $618.46 +1.78%
AMD $445.27 +1.46%
BTC $60,824.66 +0.98%
ETH $1,709.41 +1.38%
BNB $557.03 +1.84%
XRP $0.9230 -0.75%
SOL $70.23 -0.49%
TRX $0.3050 +0.01%
DOGE $0.0550 -0.42%
ADA $0.1443 -0.19%
BCH $198.19 -0.54%
LINK $8.77 +1.53%
HYPE $62.60 +2.39%
AAVE $98.93 -1.41%
SUI $0.6578 +1.21%
XLM $0.1277 -0.92%
ZEC $795.77 +0.39%
AAPL $350.22 +0.35%
AMZN $255.07 +0.47%
GOOGL $274.60 +0.85%
MSFT $501.16 +0.66%
META $575.29 +0.65%
NVDA $133.06 +2.33%
TSLA $358.88 +1.11%
SNDK $82.82 +2.88%
INTC $53.79 +1.38%
SPCX $130.61 -0.09%
MU $618.46 +1.78%
AMD $445.27 +1.46%

aid

すべて
記事
速報

Baiduオープンソース文心 5.5 Flash、総パラメータ 2800億

百度は、文心 ERNIE-5.5-Flash-Base モデルの重みをオープンソース化しました。2025年6月の文心4.5シリーズ以来、約16か月ぶりに百度は千億パラメータ級の大モデルを再びオープンソース化しました。その間にリリースされた文心5.0と5.1はオープンソース化されていません。文心5.5 Flashは推論効率を重視しており、総パラメータは2800億で、1つのトークンを生成するごとに140億パラメータのみが活性化され、33.5兆トークンを使用してゼロから事前トレーニングされています。このモデルは最大100万トークンの推論コンテキストをサポートしています。百度は長文処理メカニズムを再設計し、43層のネットワークのうち37層が128個の履歴トークンを1つのキャッシュレコードに圧縮し、残りの6層は元の内容に対する精密な検索能力を保持して、長文処理のメモリと計算コストを削減しています。公式はこれをDeepSeek-V4-Flash-Base、Tencent Hy3-preview-Base、小米 MiMo-V2.5-Baseと統一評価し、30のベンチマークテストのうち24項目で1位を獲得しました。今回オープンされるのは、未訓練および後訓練の純テキストベースモデルで、主に開発者が分野の微調整、指示トレーニング、強化学習を続けるためのものです。百度は、後訓練された文心5.5 Flashが後にリリースされると述べています。ライセンスは前世代よりも厳格で、文心4.5はApache 2.0ライセンスを採用していましたが、5.5 Flashはカスタムライセンスに変更され、EU、英国、韓国での使用は許可されていません。関連製品またはサービスが過去12か月間に5000万ドル以上の収益を上げた場合、商用前に百度の書面による許可を別途取得する必要があります。
app_icon
ChainCatcher Building the Web3 world with innovations.