Hy3 - テンセントのオープンソースハイブリッドエキスパートモデル

Hy3とは何ですか？

Hy3は、Tencent Hunyuanがオープンソース化した295パラメータのハイブリッドエキスパート（MoE）モデルです。このモデルは、エージェント機能、推論、およびロングコンテキストタスクにおいて大幅な改善を示し、複数のベンチマークにおいて、パラメータサイズが2～5倍のフラッグシップモデルに匹敵するベンチマーク性能を達成しています。強化されたトレーニングとデータクリーニングにより、錯覚エラー率は5.4%、常識エラー率は12.7%に低減されています。Hy3は、コード開発、オフィスオートメーション、フロントエンド設計など、多様な生産性シナリオをサポートしており、信頼性が高くコスト効率の良い選択肢となっています。

Hy3の主な機能

• インテリジェントエージェントタスク推論、エージェント、長文コンテキストなどのタスクにおいて、目覚ましい進歩が見られ、複数のベンチマークにおいて、パラメータサイズが2～5倍の主力モデルに匹敵する性能を達成している。
• コード開発ソフトウェア開発、フロントエンド設計、CI/CDなどをサポートし、SWE-benchシリーズのベンチマークで優れたパフォーマンスを発揮します。
• オフィス制作Excelでのモデリングと分析、PowerPointプレゼンテーションの作成、複雑なデータ集計、およびリンクされた数式計算をサポートします。
• ツール呼び出しツール呼び出しの安定性とクロススキャフォールディングの汎用性を向上させ、Codebuddy、Cline、KiloCodeなどをサポートします。
• 抗幻覚きめ細かなデータクリーニングとトレーニング制約を用いることで、錯覚や常識的な誤りの発生率を大幅に低減できる。
• 複数回の対話複雑で長期的な相互作用において意図の一貫性を維持するために、参照解決、省略復元、および複数ラウンドにわたる制約継承を最適化する。

Hy3の技術原則

• トレーニング後の最適化プレビュー版を基に、強化学習の計算能力の規模を拡大するために、学習データの質と多様性を向上させる。
• 合同訓練SFTおよびRLステージにおける参照解決、省略復元、複数ラウンド制約継承といったビジネス上の課題を共同で最適化する。
• データクリーニング私たちは、「証拠がある場合にのみ回答し、証拠がない場合は証拠がないことを明示的に述べる」という原則に従い、きめ細かなデータクリーニングとトレーニング制約を実施します。
• ハードウェアとソフトウェアの相乗効果ハードウェアとソフトウェアの協調最適化により、推論コストを削減し、トークン効率を向上させる。

WeChatでフォローして「オープンソース「、参加するAIオープンソースプロジェクトに関するディスカッショングループ

Hy3の使い方

• モデルの重みを取得するモデルの重みとコードをダウンロードするには、GitHubまたはHuggingFaceにアクセスしてください。
• APIサービスを有効化するTencent CloudコンソールでHy3 APIサービスを有効化し、API呼び出しを行うためのアクセスキーを取得できます。
• ランタイム環境を構成するローカルまたはクラウド上で実行環境を設定し、モデルをロードして、Codebuddy、Cline、KiloCodeなどのスキャフォールディングツールに接続します。
• タスクを完了するための呼び出しAPIまたはローカルデプロイメントを介してモデルを呼び出し、コード開発、オフィスオートメーション、データ分析などのタスクを実行します。

Hy3の主な利点

• 期待を上回るパフォーマンス同サイズの他社製品と比較して、はるかに優れたインテリジェンスを誇り、複数のベンチマークテストにおいて、2～5倍のパラメータ数を持つフラッグシップモデルに匹敵する性能を発揮します。
• 信頼できる経験モデル錯覚率は12.5%から5.4%に減少し、常識エラー率は25.4%から12.7%に減少し、複数ターン質問率は17.4%から7.9%に減少した。
• 工具の安定性異なる足場構造におけるSWEベンチ検証スコアの標準偏差は4パーセントポイント以内に抑えられ、ツール呼び出しエラーの回復能力が大幅に向上した。
• 低コストAPIへの入力コストは100万トークンあたり1元、出力コストは100万トークンあたり4元、キャッシュヒットコストはわずか0.25元で、オフィス業務におけるトークン消費量は競合他社と比較して約47～49%削減されています。

Hy3のプロジェクトアドレス

• プロジェクト公式サイト：https://hy.tencent.com/research/hy3
• GitHubリポジトリ：https://github.com/Tencent-Hunyuan/Hy3
• ハギングフェイスモデルライブラリ：https://huggingface.co/tencent/Hy3

Hy3と類似の競合製品との比較

Hy3の適用シナリオ

• ソフトウェア開発コード生成、デバッグ、CI/CDプロセスの自動化をサポートし、SWE-benchなどのベンチマークで優れたパフォーマンスを発揮します。
• オフィスオートメーションExcelでのモデリングと分析、PowerPointプレゼンテーションの作成、複雑なデータ集計、およびリンクされた数式計算をサポートします。
• フロントエンドデザイン直接実行可能なHTMLウェブページやブラウザプラグインなどのフロントエンドコードを生成できます。
• インテリジェントな顧客サービスAIアバターやカスタマーサービスシナリオに対応しており、不完全な表現にも対応し、文脈に基づいて妥当な判断を下すことができます。
• ゲーム開発ゲームロジックの記述や、Path of Exile: AdventのAIアシスタントなどのゲームアシスタントの統合をサポートします。