ニュース
Nvidiaによると、Groq 3 LPXは本格的な量産体制に入っており、Vera Rubin推論のスケーリングに使用される予定だという。
NVIDIA Groq 3 LPXは本格的な生産段階に入り、Vera Rubin NVL72向けの低遅延トークン生成拡張機能として位置づけられています。Nebiusは、このプラットフォームを採用した最初のAIクラウドサービスプロバイダーとなりました。
NVIDIAは、NVIDIA Groq 3 LPXが本格生産に入ったことを発表した。このプラットフォームはVera Rubin NVL72と連携して動作し、Rubin GPUが大規模なコンテキストを処理し、LPXがレイテンシに敏感なトークン生成タスクを処理します。
Nvidiaは、ラックマウント構成では最大256基のLP30アクセラレータを搭載可能であり、Nebiusはこのプラットフォームを採用した最初のAIクラウドサービスプロバイダーであると主張している。発表における性能比較は、特定のモデルとテスト条件に基づいている。
参照:NVIDIAの発表