AB
AiBoss
ニュース

NVIDIAの最も強力なオープンソースの加重AIモデル、Nemotron 3 Superがデビュー。

NVIDIAは、最も強力なオープンソースの加重AIモデルであるNemotron 3 Superをリリースしました。このモデルは1200億個のパラメータ(MoEアーキテクチャ、推論時にアクティブ化されるのはわずか120億個)を誇り、前モデルと比較してスループットが5倍、精度が2倍に向上しています。このモデルは、マルチエージェントシステム向けに特別に設計された、100万トークンの超ロングコンテキストウィンドウを備えており、「コンテキスト爆発」と「推論負荷」の問題に対処します。Mamba-Transformerハイブリッドアーキテクチャを採用し、新しい「潜在的なMoE」テクノロジーを導入し、マルチトークン予測をサポートします。