from AINEWS
テンセントは、オープンソースのHunyuan AIモデルファミリーを拡張し、幅広い計算環境に対応する汎用性を提供する。開発者向けプラットフォームHugging Faceで利用可能な新しいモデルは、0.5Bから7Bのパラメータまでのサイズがあり、さまざまなニーズを持つ開発者や企業に対応している。
これらのモデルは、テンセントのより強力なHunyuan-A13Bモデルから性能特性を継承しており、リソースに制約のあるエッジコンピューティングや高スループットの量産ワークロード向けのオプションをユーザーに提供する。特筆すべき機能としては、超長い256Kのコンテキスト・ウィンドウのネイティブ・サポートやハイブリッド推論機能などがある。
効率的な推論に重点を置いており、TencentのHunyuanモデルはGrouped Query Attention（GQA）と高度な定量化サポートを利用している。また、モデル圧縮ソリューションのための圧縮ツールセットAngleSlimも提供している。
性能ベンチマークは、さまざまなタスクにおけるHunyuanモデルの強力な能力を実証しており、オープンソースAIにおける強力な候補となっている。
*Disclamer:本キュレーションはAINEWSからピックおよび自動生成されました。正確な内容や詳細を知りたい方はリンク先の元コンテンツをご覧ください。
Curated. ニュースレター