XVERSE-Ent - 大規模なオープンソースの、あらゆるエンターテイメント分野に対応したバイリンガル（中国語と英語）のベースモデル。

XVERSE-Entとは何ですか？

XVERSE-Entは、Metaverse Technologyがエンターテインメント業界向けに特別に設計した、オープンソースのバイリンガル（中国語と英語）基盤モデルです。中国語モデルXVERSE-Ent-A4.2Bと英語モデルXVERSE-Ent-A5.7Bが含まれています。このモデルは、キャラクターの一貫性、長編ストーリーの理解、多様なコンテキストへの適応に優れており、長期間にわたって仮想キャラクターのキャラクターデザインとスタイルを維持し、複雑なストーリーラインを正確に捉え、さまざまなテーマに基づいて様式化された表現を提供します。技術革新には、MoEホットスタート技術とマルチステージトレーニング戦略が含まれており、8Kコンテキストウィンドウで約1兆トークンのデータでトレーニングされています。モデルパラメータはそれぞれ25Bと36Bで、高並行性、低コストの展開をサポートし、シングルカードクラウド運用に適しており、展開の敷居を大幅に下げます。 XVERSE-Entは、小説や対話生成といったコアタスクにおいて卓越した性能を発揮すると同時に、汎用的な能力の98%以上を維持しており、エンターテインメント分野全般において非常に有望なAIモデルである。

XVERSE-Entの主な機能

• キャラクターの一貫性が向上しましたこれにより、仮想キャラクターのキャラクターデザイン、記憶、話し方を長期間維持することができ、「忘れてしまう」や「役から外れてしまう」といった問題を効果的に回避し、ロールプレイングや仮想空間での交流において安定した体験を提供することができます。
• 長期にわたるストーリーラインを正確に理解する複雑なストーリー展開、登場人物の関係性、伏線などを正確に把握し、論理的に整合性のある筋書きを生成することができるため、小説執筆、脚本執筆、その他の場面に適しています。
• マルチコンテキスト適応古代風、SF、都市など、さまざまなテーマに関する豊富な文体表現力と背景知識を備えており、特定のシナリオに応じて言語スタイルやコンテンツの出力を柔軟に調整できます。
• 中国語と英語のバイリンガルサポート本製品には、中国語モデルXVERSE-Ent-A4.2Bと英語モデルXVERSE-Ent-A5.7Bが含まれており、それぞれ中国語と英語の環境に合わせて最適化されているため、異なる言語を使用するユーザーの作成およびインタラクションのニーズを満たすことができます。
• 高並行性、低コストの導入クラウドにおけるシングルカード展開をサポートし、推論コストと処理効率のバランスを実現することで、開発者にとっての導入障壁と運用保守コストを大幅に削減し、様々なデバイス上での効率的な動作を促進します。

XVERSE-Entの技術理念

• MoEホットスタートテクノロジーDenseモデルをMoEモデルに変換することで、FFN部分はエキスパートとして複数のサブネットワークに細かく分割され、推論時にはエキスパートサブネットワークがメモリサイズに応じてコピーされるため、効率的なモデル拡張とパフォーマンスの向上が実現されます。
• 多段階トレーニング戦略トレーニングプロセスは、S0能力再構築、S1言語バイアス、S2ドメイン強化の3つのフェーズで構成されます。このフェーズでは、特定の言語やドメインに適用可能な専門モデルを段階的に構築し、エンターテインメント分野全体におけるモデルの専門性と汎用性を確保します。
• 大規模モデルアーキテクチャとパラメータ最適化中国語モデルXVERSE-Ent-A4.2Bと英語モデルXVERSE-Ent-A5.7Bは、それぞれ25Bと36Bのパラメータを持ち、約1兆トークンのデータで学習されており、強力な言語生成および理解能力を備えています。
• 8Kコンテキストウィンドウ8Kのコンテキストウィンドウをサポートしているため、より長いテキストの入出力に対応でき、複雑なプロット作成や長文の対話処理に適しています。
• 低コストかつ効率的な展開高並行処理と低コストの導入ソリューションをサポートしているため、クラウドベースのシングルカード導入に特に適しています。推論コストと処理効率のバランスを最適化することで、開発者にとっての導入ハードルを下げます。

XVERSE-Entのプロジェクトアドレス

• GitHubリポジトリ：https://github.com/xverse-ai/XVERSE-Ent
• ハギングフェイスモデルライブラリ：https://huggingface.co/collections/xverse/xverse-ent

XVERSE-Ent アプリケーションシナリオ

• 仮想キャラクターとのインタラクションこれにより、仮想キャラクターに一貫性のある統一された人格と対話スタイルを与えることができ、長期的かつ安定したインタラクティブ体験をサポートし、仮想アイドルや仮想カスタマーサービスなどのシナリオに適しています。
• 小説と脚本の執筆一貫性があり創造的な長編ストーリーや脚本を生成でき、複雑な筋書きや登場人物の関係性をサポートし、クリエイターが高品質なコンテンツを迅速に制作するのに役立ちます。
• ゲームストーリー生成これは、ゲーム向けに動的に生成されるストーリーラインと対話を提供し、没入感とプレイアビリティを向上させ、ロールプレイングゲーム（RPG）やインタラクティブな物語ゲームに適しています。
• 異文化コミュニケーション中国語と英語のバイリンガル生成をサポートしており、異なる言語背景を持つユーザーが創造的な文章作成や対話に参加し、異文化間のコンテンツ作成とコミュニケーションを促進するのに役立ちます。
• ソーシャルメディアコンテンツの作成特定のスタイルやテーマに合ったコピー、ストーリー、または対話を生成することで、クリエイターが魅力的なソーシャルメディアコンテンツを迅速に作成できるよう支援します。
• 教育と訓練対話型の対話やシナリオシミュレーションを生成することで、語学学習や職業訓練などの教育現場で活用でき、より生き生きとした学習体験を提供できる。