AB
AiBoss
project

OmniSVG - 復旦大学とStepFunが共同でエンドツーエンドのマルチモーダルベクターグラフィックス生成モデルを発表

OmniSVGは、復旦大学とStepFunが共同開発した、世界初のエンドツーエンドのマルチモーダルSVG(スケーラブルベクターグラフィックス)生成モデルです。事前学習済みのビジュアル言語モデル(VLM)に基づき、革新的なSVGトークン化手法を採用しています。

OmniSVGとは何ですか?

OmniSVGは、復旦大学とStepFunが共同開発した、世界初のエンドツーエンドのマルチモーダルSVG(スケーラブルベクターグラフィックス)生成モデルです。事前学習済みのビジュアル言語モデル(VLM)をベースとし、革新的なSVGトークン化手法を用いてSVGコマンドと座標を個別のトークンとしてパラメータ化することで、構造ロジックと幾何学的詳細の分離を実現しています。これにより、OmniSVGはシンプルなアイコンから複雑なアニメキャラクターまで、多様な高品質SVGグラフィックを効率的に生成できます。

OmniSVGの主な機能

  • マルチモーダル生成OmniSVGは、テキスト記述、画像参照、文字参照に基づいて高品質なSVGグラフィックを生成できる、初の包括的なマルチモーダルSVG生成モデルです。シンプルなアイコンから複雑なアニメキャラクターまで、幅広い種類のグラフィックを生成できます。
  • 効率的な生成とトレーニングOmniSVGは、事前学習済みのビジュアル言語モデル(VLM)Qwen-VLをベースに、革新的なSVGトークン化手法を採用しています。この手法では、SVGコマンドと座標を個別のトークンとしてパラメータ化し、学習時に構造ロジックと幾何学的詳細を分離します。これにより、従来の手法と比較して学習効率が3倍以上向上し、最大30,000トークンのシーケンス処理が可能になり、詳細が豊富な複雑なSVGの生成をサポートします。
  • データセットと評価OmniSVGチームは、アイコン、イラスト、文字の3つのサブセットを網羅し、マルチモーダルな注釈が付いた200万個のSVGリソースを含むデータセット「MMSVG-2M」を公開しました。また、条件付きSVG生成タスクのパフォーマンスをテストするための標準化された評価プロトコル「MMSVG-Bench」も提案しました。
  • 編集のしやすさと使いやすさ生成されるSVGファイルは無限に拡大縮小可能で、完全に編集可能であり、Adobe Illustratorなどのツールといったプロフェッショナルなデザインワークフローにシームレスに統合できるため、グラフィックデザイン、ウェブ開発、その他の分野におけるAI生成グラフィックの実用性が向上します。

OmniSVGの技術原則

  • 事前学習済みの視覚言語モデル(VLM)に基づくOmniSVGは、事前学習済みの視覚言語モデルであるQwen-VLを基盤として構築されています。このモデルは画像情報とテキスト情報を深く融合させ、マルチモーダル生成のための強力な基盤を提供します。
  • SVGトークン化方法OmniSVGは、SVGコマンドと座標を個別のトークンとしてパラメータ化する革新的な手法を採用し、自然言語処理と同様の方法でSVG生成を処理します。これにより、複雑なSVG構造を生成する能力を維持しながら、トレーニング効率が向上します。
  • エンドツーエンドのマルチモーダル生成フレームワークOmniSVGは、テキスト記述、画像参照、文字参照など、さまざまな入力方法からSVGグラフィックを直接生成することをサポートしています。このエンドツーエンドの生成フレームワークは、色彩豊かで鮮明なディテールを備えたベクターグラフィックを生成し、従来の方法の多くの制約を克服します。
  • 効率的なトレーニングと長シーケンス処理従来の手法と比較して、OmniSVGは学習速度が3倍以上向上し、最大30,000トークンのシーケンスを処理できます。これにより、詳細で複雑なSVGグラフィックを生成することが可能になります。

OmniSVGプロジェクトのアドレス

OmniSVGの応用シナリオ

  • ブランドアイコンデザインOmniSVGはテキストの説明に基づいてブランドアイコンを迅速に生成できるため、デザイナーがゼロからアイコンを描く必要がなくなり、手作業によるデザイン時間を大幅に削減できます。
  • ウェブ開発アイコンはWeb開発において不可欠な要素です。OmniSVGは、テキストの説明や画像参照からベクターアイコンを生成できます。これらのアイコンは品質を損なうことなく拡大縮小でき、モバイルデバイスから4Kディスプレイまで、さまざまな解像度に対応します。
  • キャラクターおよびシーンデザインゲーム開発において、OmniSVGはゲームキャラクターやシーンなどのグラフィックアセットを生成するために使用でき、ゲームに独自の芸術的なスタイルを加えることができます。
  • 動的な文字生成OmniSVGは、キャラクターの参照情報に基づいて、同じキャラクターの特徴を保持しつつ、ポーズやシーンが異なるベクターグラフィックを生成できます。
  • ラピッドプロトタイピングコンテンツ制作者はOmniSVGを使用することで、アイコン、イラスト、キャラクターグラフィックのプロトタイプを迅速に生成し、制作プロセスを加速させることができます。