Skywork-R1V 2.0 - Kunlun Techの新しいオープンソースマルチモーダル推論モデル

Skywork-R1V 2.0とは何ですか？

Skywork-R1V 2.0は、Kunlun Wanweiが開発した最新のオープンソース・マルチモーダル推論モデルです。複雑な推論タスク向けに特別に設計されており、強力な視覚推論およびテキスト推論機能を備えています。このモデルは、ハイブリッド強化学習とマルチモーダル報酬モデル（Skywork-VL Reward）に基づき、推論能力と汎化能力のバランスを実現し、「優位性の消失」問題に対処するために選択的サンプルバッファ（SSB）メカニズムを導入しています。AIME2024やOlympiadBenchなどの権威あるベンチマークテストで非常に優れた性能を発揮し、一部のクローズドソースモデルに匹敵、あるいはそれを上回るパフォーマンスを実現しています。モデルの重みとコードは完全にオープンソース化されており、マルチモーダルエコシステムの発展を促進し、教育、科学研究、その他の分野を支援します。

Skywork-R1V 2.0の主な特徴

• 複雑な推論タスク複雑な数学、物理学、化学、その他のSTEM分野の問題を扱うことを支援しており、深い推論力と問題解決戦略を提供します。
• マルチモーダルな理解テキスト情報と画像情報を組み合わせて、視覚的および言語的な統合推論を行う。
• 一般的なタスク適応創作文や自由記述式の質問など、一般的な課題において優れた能力を発揮する。
• 教育支援大学入学試験の理系問題における問題解決補助ツールとして、学生が複雑な数学、物理、化学の問題を理解し、解決するのに役立ちます。
• 科学研究科学的分析と実験計画を支援し、論理的推論とデータ分析機能を提供する。
• プログラミングコンテストプログラミングコンテストにおけるアルゴリズム問題の解決を支援し、コード生成やデバッグに関する提案を提供する。

Skywork-R1V 2.0の技術原理

• ハイブリッド強化学習このアプローチは、マルチモーダル報酬モデル（Skywork-VL Reward）とルール駆動型フィードバックを組み合わせることで、推論能力と汎化能力のバランスを取りながら、高品質な報酬シグナルを提供します。また、強化学習における優位性消失問題に対処するため、選択的サンプルバッファ（SSB）メカニズムを採用し、トレーニング効率を向上させています。
• ハイブリッド選好最適化（MPO）が採用されており、選好シグナルとルールフィードバックを組み合わせることで、モデルの推論能力とフォーマット準拠性を向上させています。
• マルチモーダル融合このアプローチでは、軽量なMLPアダプタを活用してビジュアルエンコーダ（InternViT-6B）と言語モデル（QwQ-32Bなど）を接続し、大規模なマルチモーダルデータへの依存度を低減します。また、事前学習済みの言語モデルをビジュアルアダプタに直接組み合わせることで、推論能力を維持しながら視覚理解力を向上させます。
• モジュール再編成モジュール設計により、効率的なクロスモーダル連携を維持しながら、視覚モジュールと言語モジュールを個別に最適化できます。視覚エンコーダ、アダプタ、言語モデルのトレーニングをさまざまな組み合わせで行うことにより、モデル全体のパフォーマンスが向上します。
• トレーニング戦略：
  • Group Relative Policy Optimization (GRPO)このモデルは、グループ内の候補となる回答の相対的な報酬比較に基づいて最適化されます。
  • MPOの複数の損失関数これには、モデルの安定性と汎化能力を向上させる品質損失（BCO）と生成損失（SFT）が含まれます。

Skywork-R1V 2.0 プロジェクトアドレス

• ハギングフェイスモデルライブラリ：https://huggingface.co/Skywork/Skywork-R1V2-38B
• arXiv技術論文：https://arxiv.org/pdf/2504.16656

Skywork-R1V 2.0の適用シナリオ

• 教育支援この問題解決のためのアイデアや手順を提供することで、学生が大学入学試験の難しい科学問題を解くのに役立ちます。
• 科学研究これは、研究者が実験計画、データ分析、文献知識の抽出を行う際に役立つ。
• プログラミング開発プログラミングコンテストやソフトウェア開発向けに、コード生成、デバッグ、最適化に関する提案を提供します。
• クリエイティブライティングクリエイターが創造的なコンテンツを作成したり、自由回答形式の質問に答えたりするのを支援する。
• マルチモーダルな理解画像とテキストを組み合わせたり、マルチメディアコンテンツを分析したりする作業。