テンセント混元オープン Hy4 ウェイト、百万トークンコンテキストをサポート
Tencentの混元チームは、ネイティブなマルチモーダルフラッグシップモデルHy4のモデルウェイトを公開しました。Hy4は混合専門家(MoE)アーキテクチャを採用しており、総パラメータ数は7700億、各トークンは490億のパラメータを活性化し、コンテキストの長さは100万トークンです。
Tencentの混元チームは同時にHy4システムカードを発表し、安全評価レポートを含んでいます。また、太平洋時間の金曜日午前8時から10時まで、Redditのr/LocalLLaMAコミュニティでオンラインQ&Aを開催し、Hyシリーズモデルに関する質問に回答する予定です。






