Zhipu社は、次世代の大規模モデル推論ネットワークアーキテクチャであるZCubeを発表しました。

Zhipuは、Yuhun Networksおよび清華大学と共同で、ZCubeネットワークアーキテクチャを発表しました。PD分離推論における輻輳の課題に対処するため、Spineレイヤーを排除し、ハイブリッドシングル/マルチトラックアクセスを備えたフラットトポロジーを採用しています。GLM-5.1コーディングを用いた実環境テストでは、ZCubeによりスイッチおよび光モジュールのコストが33%削減され、GPU推論スループットが15%向上し、ファースト・トゥ・トークンレイテンシ（TTFT P99）が40.6%短縮されることが示され、次世代ハイパースケール推論クラスタのための高効率な基盤を提供します。