QwenLong-L1.5 - Alibaba Tongyi がオープンソース化した長文テキスト推論モデル

QwenLong-L1.5とは何ですか？

QwenLong-L1.5は、アリババの同義研究所が開発した、長文推論に特化した大規模言語モデルです。Qwen3-30B-A3Bアーキテクチャをベースに、体系的な後処理スキームによって長文推論能力を大幅に向上させています。高品質なデータ合成パイプライン、安定した強化学習手法、そして物理ウィンドウの制限を克服するメモリ管理フレームワークを採用することで、従来のモデルが長文タスクで抱えていた不安定な学習や限られたコンテキストウィンドウといった欠点を克服しています。複数の長文推論ベンチマークにおいて卓越した性能を発揮し、GPT-5などのトップモデルに匹敵、あるいはそれを上回るパフォーマンスを実現するとともに、汎用性においても大幅な改善を示しています。

QwenLong-L1.5の主な機能

• 長文推論このモデルは、非常に長いテキスト（数百万トークンを含む文書など）を処理して推論することができ、段落間および文書間のコミュニケーションを必要とする複雑な問題を解決します。
• マルチホップ推論これはマルチホップ論理推論をサポートしており、複数のステップを経て情報を接続することで複雑な推論タスクを完了します。
• 情報統合長文から散在する情報を抽出し統合することで、全体像の把握を必要とする質問に答える。
• メモリ管理メモリ拡張フレームワークを使用することで、物理的なコンテキストウィンドウの範囲を超えるタスクを処理でき、非常に長いテキストに対しても効率的な推論が可能になります。
• 総合的な能力向上これは、数学的推論、エージェントの記憶、長時間の対話といった一般的なタスクにおいて顕著な改善を示しており、優れた汎化能力を実証している。

QwenLong-L1.5の技術的原理

• 高品質データ合成パイプラインQwenLong-L1.5は、「分解してから再構成する」というアプローチを通して、高品質な長文推論データを構築します。このモデルは、長文ドキュメントを原子的な事実とその関係に分解し、知識グラフや複数ドキュメントテーブルなどのツールを使用して、マルチホップ推論とグローバルな情報統合を必要とする複雑な問題をプログラム的に合成します。
• 安定した強化学習手法QwenLong-L1.5は、タスクバランスサンプリングとタスク固有の利点推定戦略を導入することで、長文テキストのマルチタスク学習におけるデータ分布の偏りや報酬信号の不安定性に対処します。同時に、適応型エントロピー制御最適化（AEPO）アルゴリズムを提案し、負の勾配を動的に調整してモデルの探索と利用のバランスを取ることで、長文テキストの強化学習における不安定性を効果的に解決し、より長いシーケンスでのモデルの安定した学習を保証します。
• 物理ウィンドウのメモリ管理フレームワークを突破するこの設計では、多段階融合強化学習トレーニングを通じて、単一推論と反復メモリ処理を組み合わせたメモリ管理フレームワークを採用しています。極めて長いテキストを処理する際、モデルは限られたコンテキストウィンドウに依存しません。代わりに、ブロック処理と反復メモリ更新によってグローバル情報をコンパクトなメモリ表現に「折り畳み」、物理ウィンドウの制限を克服し、極めて長いテキストに対しても効率的な推論を実現します。

QwenLong-L1.5プロジェクトのアドレス

• GitHubリポジトリ：https://github.com/Tongyi-Zhiwen/Qwen-Doc
• ハギングフェイスモデルライブラリ：https://huggingface.co/Tongyi-Zhiwen/QwenLong-L1.5-30B-A3B
• arXiv技術論文：https://arxiv.org/pdf/2512.12967

QwenLong-L1.5の応用シナリオ

• 長文文書分析これは、財務報告書、法律文書、学術文献を分析し、重要な情報を抽出し、マルチホップ推論を実行することで、専門家が複雑な内容を迅速に理解するのに役立つ。
• コードの理解と生成これは、開発者が大規模なコードベースを理解するのに役立ち、コードスニペットや補完候補を生成し、プログラミング効率とコード品質を向上させます。
• 複雑な質問応答システムマルチホップの質疑応答や長文ドキュメントのクエリに対応し、インテリジェントな顧客サービスや知識ベースの質疑応答システム向けに、正確かつ詳細な回答を提供します。
• 情報検索と統合検索エンジンの結果を最適化し、長文テキストから知識を抽出して知識グラフを構築し、情報検索の精度と効率を向上させる。
• 教育と学習これは、オンライン教育プラットフォームやインテリジェントな個別指導システムを支援し、学生が複雑な学術的問題を理解できるようにし、個別学習をサポートする。