project
YAYI-Ultra - 中科文格が発売したハイブリッドエキスパートモデル
YAYI-Ultraは、Zhongke Wengeが開発した企業向け大規模言語モデルのフラッグシップバージョンであり、強力なマルチドメイン専門機能とマルチモーダルコンテンツ生成機能を備えています。数学、プログラミング、金融、世論、漢方医学、セキュリティなど、複数の分野をサポートしています。
YAYI-Ultraとは何ですか?
YAYI-Ultraは、中科文格のエンタープライズレベルの大規模言語モデルのフラッグシップバージョンであり、強力なマルチドメイン専門機能とマルチモーダルコンテンツ生成機能を備えています。数学、プログラミング、金融、世論、漢方、セキュリティなど、複数の分野の専門家の組み合わせをサポートし、垂直ドメイン移行における「シーソー現象」を緩和します。YAYI-Ultraは、最大128kの入力とより長いコンテキストウィンドウをサポートし、1000万を超える画像データとテキストデータを整合させるマルチモーダル機能を備えています。また、複数ターン対話ロールプレイング、コンテンツセキュリティリスク管理、10種類以上のインテリジェントプラグインの呼び出しをサポートしています。
YAYI-Ultraの主な機能
- 多分野にわたる専門能力YAYI-Ultraは、数学、プログラミング、金融、世論、漢方医学、セキュリティなど、複数の分野の専門家を組み合わせることをサポートするハイブリッド専門家モデルであり、高密度モデルが垂直分野に移行する際によく見られる「シーソー」現象を緩和します。
- マルチモーダルコンテンツ生成テキストと画像を視覚的に魅力的な方法で出力することをサポートしており、ユーザーの質問に基づいて知識ベースから関連情報を抽出し、同時に対応する画像コンテンツを提供することができます。
- 長文記事の出力最大20万文字の入力と最大10万文字の出力をサポートし、「入力理解」から「コンテンツ作成」までの全工程において、長文テキスト処理機能のクローズドループを形成します。
- データ分析と可視化データ分析、計算、グラフ作成といった作業を正確に実行できる。
- 複雑なタスクのためのインテリジェントな計画YAYI-Ultraは、複数のツールを連続的に呼び出すシナリオにおいて、計画の合理性を向上させます。複雑なタスクを複数のサブタスクに分解し、検索エンジン、コードインタープリタ、画像解析ツールといった基本ツールに加え、ニュースホットリスト追跡や情報拡散影響分析といった専門ツールを呼び出すことで、タスクを完了させることができます。
- インターネットに接続されたインテリジェントな創造物中国儒教文化の発展史に関する分析レポートの作成など、創作活動を行うためにオンラインで情報を収集することを支援する。
YAYI-Ultraの技術原理
- ハイブリッドエキスパートアーキテクチャYAYI-Ultraはハイブリッド型エキスパートモデルアーキテクチャを採用しており、数学、プログラミング、金融、世論、漢方医学、セキュリティなど、さまざまな分野の専門家を組み合わせることができます。これにより、高密度モデルを複数の分野にまたがって移行する際によく見られる「シーソー現象」を大幅に軽減し、さまざまな分野に対して高精度かつ低エネルギーのインテリジェントなソリューションを提供します。
- 命令の微調整とデータ駆動YAYI-Ultraは、大規模かつ高品質な多言語コーパスで学習され、指導の微調整技術と組み合わせることで、さまざまな分野やタスクにおいて優れたパフォーマンスを発揮します。
YAYI-Ultraの業績評価
OpenCompassの大型モデル公開学術ランキングにおいて、YAYI-Ultraは64.5点のスコアで初めてトップ10入りを果たし、中国の大型モデル5機種のうちの1つとなりました。具体的な成績は以下のとおりです。
- コード生成LiveCodeBenchでは5位にランクインし、GPT-4o-20241120バージョンを上回った。
- 複雑な指示を理解するIFEvalランキングでは9位にランクインしている。
- 知識推論能力MMLU-Proランキングでは9位にランクインしています。
YAYI-Ultraのプロジェクトアドレス
- GitHubリポジトリ:https://github.com/wenge-research/YAYI2
- ハギングフェイスモデルライブラリ:https://huggingface.co/wenge-research
YAYI-Ultraの応用事例
- メディア分野当社は、クライアントのコンテンツ作成時間を30%~50%短縮し、コンテンツ公開頻度を20%~40%増加させ、コンテンツのエラー率を5%から約0.5%に削減するお手伝いをします。
- 医療分野YAYIの「大一金桂」TCMモデルに基づき、500種類以上の一般的な疾患を正確に診断でき、診断推論の精度は最大90%に達します。また、Cエンドユーザー向けに「大一金桂」TCM健康管理アプリをリリースしました。
- 金融・税務分野YAYIの包括的な財務・税務知識モデルに基づき、このモデルは90.1%という高い精度を実現しており、他の類似モデルよりも優れており、顧客に24時間365日途切れることのないコンサルティングサービスを提供しています。