MaskSearch - Alibaba Tongyiが発表した検索強化のための事前学習フレームワーク

MaskSearchとは何ですか？

MaskSearchは、Alibaba Tongyi Labsが発表した新しい汎用事前学習フレームワークで、大規模言語モデル（LLM）のエージェント検索機能を強化します。検索拡張マスク予測（RAMP）タスクを通じて、モデルは入力テキストの重要な情報をマスクし、外部知識ベースを使用して検索ツールを呼び出し、マスクされたセグメントを予測します。これには、固有表現、日付、数値、オントロジー知識などの重要な情報が含まれており、タスクの難易度が上がり、モデルがより正確に情報を処理するようになります。教師ありファインチューニング（SFT）データを生成する際には、プランナー、リライター、オブザーバーなどの役割を含むマルチエージェントシステムが採用され、思考チェーンデータを協調的に生成してデータ品質を向上させます。トレーニング方法は、SFTと強化学習（RL）を組み合わせ、動的サンプリングポリシー最適化（DAPO）アルゴリズムを使用してハイブリッド報酬システムを構築します。コースベースの学習アプローチを採用し、マスクの数に応じてサンプルの難易度を調整することで、モデルが段階的に学習できるようにします。

MaskSearchの主な機能

• 質問応答のパフォーマンスを向上させるオープンドメインのマルチホップ質問応答シナリオ、特にドメイン内外の下流タスクにおいて、LLMのパフォーマンスを大幅に向上させ、複雑な質問を理解して回答するモデルの能力を高めます。
• 複数のタスクに適応可能RAMPタスクとマルチエージェントシステムによって生成された思考連鎖データを使用することで、モデルはさまざまな質問応答タスクによりよく適応し、さまざまなシナリオでのパフォーマンスを向上させることができます。
• 複数のトレーニング方法に対応SFTとRLの両方の学習方法に対応しており、タスクの要件に応じて適切な学習戦略を選択できます。
• データセットの拡張大規模な事前学習済みデータセット（例えば1000万サンプル）を構築することで、モデルのトレーニング性能と拡張性を向上させます。

MaskSearchの技術原理

• 検索強化型マスク予測（RAMP）タスクMaskSearchの中核となるのは、BERTのマスキングメカニズムに着想を得たRAMPタスクです。このタスクにより、モデルは入力テキストシーケンス内の重要な情報をマスキングし、外部の知識ベースや検索ツールを積極的に活用して、マスキングされたテキスト断片を予測します。一般的な固有表現、日付、数値に加えて、オントロジー知識、特定の用語、数値も考慮に入れることで、タスクの難易度を高め、検索と推論の際にモデルがよりきめ細かく情報を処理するように促します。
• 思考連鎖（CoT）データの複数エージェントによる協調生成教師ありファインチューニング（SFT）用の思考連鎖データを生成するために、MaskSearchはプランナー、リライター、オブザーバーを含むマルチエージェントシステムを採用し、協調的に思考連鎖を生成します。最終的に、LLM（限定学習モデル）が解答判定を担当し、正解の思考連鎖のみを保持します。データセットを迅速に拡張し、高品質を維持するために、既存のデータで学習された教師モデルを使用して推論軌跡を直接生成します。教師モデルは段階的に反復され、データ品質を徐々に向上させます。
• 強化学習（RL）強化学習部分では、MaskSearchは動的サンプリングポリシー最適化（DAPO）アルゴリズムを用いて、フォーマット報酬と回答報酬を含むハイブリッド報酬システムを構築します。フォーマット報酬は、モデルの出力が指定されたフォーマットに準拠しているかどうかをチェックし、回答報酬は、生成された回答と標準回答との一貫性を評価します。最後に、Qwen2.5-72B-Instructモデルを基準として、生成された回答と標準回答との一貫性を評価するモデルベースの報酬関数が選択されます。
• コース学習MaskSearchは、マスクの数に基づいてトレーニングサンプルを難易度別に分類するコース学習戦略を導入しており、モデルが簡単なものから難しいものへと学習を進め、徐々に能力を向上させていくことを可能にします。

MaskSearchのプロジェクトアドレス

• GitHubリポジトリ：https://github.com/Alibaba-NLP/MaskSearch
• arXiv技術論文：https://arxiv.org/pdf/2505.20285

MaskSearchの応用シナリオ

• インテリジェントな顧客サービスインテリジェントな顧客サービス分野において、MaskSearchは、顧客サービスシステムがユーザーの質問をより正確に理解し、関連する回答や情報を迅速に取得し、顧客サービスの効率とユーザー満足度を向上させるのに役立ちます。
• 教育教育分野において、MaskSearchは、学生が複雑な学問的問題をより深く理解し解決するのに役立つ、高度な個別指導システムを構築するために活用できます。学生の質問に基づいて関連する知識ポイントや解答を検索し、個々のニーズに合わせた学習支援を提供します。
• エンタープライズレベルの検索システム企業検索システムは、大量の社内データと複雑なクエリ要件に対応する必要があります。MaskSearchは、企業検索システムの検索機能を強化し、ユーザーのクエリ意図をより正確に理解し、膨大なデータから関連情報を迅速に取得することで、企業の意思決定効率を向上させます。
• 機械学習モデルのデバッグと最適化MaskSearchは、機械学習モデルのデバッグや最適化にも利用できます。例えば、画像分類モデルのデバッグを行う際、MaskSearchはマスク属性に基づいて画像データベースを検索したり、モデルが学習した誤った関連性を特定したり、モデルの顕著性と人間の注意の違いを検証したりするのに役立ちます。