AB
AB
AiBoss

すべてのカテゴリ

project

Ring-lite - Ant Financialがオープンソース化した軽量推論モデル。

Ring-liteは、AntTechが開発したMoEアーキテクチャに基づく軽量推論モデルです。このモデルはLing-lite-1.5をベースにしており、独自のC3PO強化学習トレーニング手法を採用することで、複数の推論ベンチマークにおいて高いパフォーマンスを実現しています。

リングライトとは何ですか？

Ring-liteは、AntTechが開発したMoEアーキテクチャに基づく軽量推論モデルです。Ling-lite-1.5をベースとしたこのモデルは、独自のC3PO強化学習トレーニング手法を採用し、わずか27.5億個の活性化パラメータで複数の推論ベンチマークにおいて最先端（SOTA）の性能を実現しています。Ring-liteは、安定した強化学習トレーニング、Long-CoT SFTおよびRL向けに最適化されたトレーニング重み、複数のドメインにわたる共同トレーニングの課題への解決策といった技術革新を通じて、効率的な推論を実現しています。Ring-liteは、モデルの重み、トレーニングコード、データセットを含む技術スタックをオープンソース化しており、軽量MoE推論モデルの開発に貢献しています。

リングライトの主な機能

  • 効率的な推論Ring-liteは、数学的推論、プログラミング競技、科学的推論など、さまざまな複雑な推論タスクにおいて効率的な推論を可能にします。
  • 軽量設計Ring-liteは、総パラメータ数が168億個、活性化パラメータ数がわずか27億5千万個です。高いパフォーマンスを維持しながら、計算リソースの必要量が少なく、リソースが限られた環境での使用に適しています。
  • マルチドメイン推論Ring-liteは、数学、プログラミング、科学など、複数の分野にわたる推論タスクを処理できます。共同学習と段階的学習手法により、異なる分野間で相乗効果を生み出し、モデルの汎化能力を向上させます。
  • 安定したトレーニングRing-liteはC3PO強化学習トレーニング手法に基づいており、従来の強化学習トレーニングにおける不安定性の問題を解決し、トレーニングプロセスの安定性と効率性を向上させています。

リングライトの技術原理

  • 教育省建築Ring-liteは、複数のエキスパートネットワークを組み合わせて入力データを処理する、エキスパート混合モデル（MoE）アーキテクチャに基づいています。各エキスパートネットワークは、特定のサブタスクやデータ特徴を処理する役割を担い、モデルの推論能力と効率性を向上させます。
  • C3PO強化学習トレーニング方法C3PO（Constrained Contextual Computation Policy Optimization）は、革新的な強化学習トレーニング手法です。各トレーニングステップにおけるトレーニングトークンの総数を固定することで、生成される応答の長さの変動によって引き起こされる最適化の不安定性やスループットの変動を排除します。C3POはエントロピー損失戦略を用いて適切な初期モデルを選択することで、トレーニングプロセスをさらに安定化させます。
  • Long-CoT SFTとRLの組み合わせRing-liteは、Long-CoT（Long Inference Chain）教師ありファインチューニング（SFT）と強化学習（RL）を組み合わせた2段階のトレーニング手法を採用しています。Long-CoT SFTを用いることで、モデルは複雑な推論パターンを学習し、RLに基づいて特定のタスクにおけるパフォーマンスをさらに最適化できます。Ring-liteは、トークン効率とパフォーマンスのバランスを取るために、SFTとRLトレーニングの最適な比率を実験的に決定します。
  • 複数ドメインのデータを用いた共同トレーニングRing-liteは、トレーニングプロセスにおいて、数学、プログラミング、科学など、複数の分野のデータを利用します。段階的なトレーニングアプローチに基づき、まず数学的なタスクをトレーニングした後、コーディングと科学的なタスクを共同でトレーニングすることで、複数分野のデータを共同でトレーニングする際の分野間の競合問題を効果的に解決します。

リングライトプロジェクトの住所

  • GitHubリポジトリ：https://github.com/inclusionAI/Ring
  • ハギングフェイスモデルライブラリ：https://huggingface.co/inclusionAI/Ring-lite
  • arXiv技術論文：https://arxiv.org/pdf/2506.14731

リングライトの用途

  • 教育これは、生徒が複雑な数学的および科学的問題を解決するのを支援し、詳細な解決手順と推論プロセスを提供することで、生徒が知識をよりよく理解し、習得できるようにサポートします。
  • 科学研究分野これは、研究者が複雑な数学的および科学的問題を検証および探求する際に役立ち、理論研究や実験設計を支援するための詳細な推論手順と解決策を提供する。
  • 産業・商業部門複雑なデータを処理・分析し、金融、医療、マーケティングなどの分野における予測や意思決定支援のための推論プロセスとソリューションを提供する。
  • スマートアシスタントこれをインテリジェントアシスタントに統合することで、より高度な推論能力と問題解決能力を提供し、複雑なクエリやタスクを処理し、ユーザーエクスペリエンスを向上させることができます。
  • 医療分野これは、医師や研究者が複雑な医療データを分析・処理する際に役立ち、疾患の診断や治療計画を支援するための詳細な推論プロセスと解決策を提供する。
戻る