Promptrieverは、ユーザーの検索リクエストに対して自然言語によるプロンプトを提供する情報検索モデルです。

Promptrieverとは何ですか？

ジョンズ・ホプキンス大学とSamaya AIが共同開発した革新的な検索モデル「Promptriever」は、言語モデルのように自然言語によるプロンプトを受け入れ、ユーザーの検索ニーズに直感的に対応します。MS MARCOデータセットの指示トレーニングセットで学習されたPromptrieverは、標準的な検索タスクにおいて優れた性能を発揮し、詳細な指示に効果的に従い、クエリの堅牢性と検索パフォーマンスを向上させます。Promptrieverは、大規模言語モデルのプロンプト技術と情報検索を組み合わせることの可能性を示しています。

Promptrieverの主な機能

自然言語によるプロンプトを受け入れる自然言語でのプロンプトを理解して応答できるため、ユーザーはより自然な方法で検索ニーズを表現できます。
相関関係を動的に調整するユーザーの具体的な指示に基づいて、検索結果の関連性を動的に調整します。例えば、検索結果に対するユーザーの具体的な要件（期間や特定の属性など）に基づいて、ドキュメントをフィルタリングしたり、並べ替えたりします。
検索の堅牢性を向上させる自然言語における微妙な違いを理解し処理することで、様々なクエリ表現に対するモデルの堅牢性が向上する。
検索パフォーマンスを向上させるプロンプトに基づいてハイパーパラメータ探索を実行し、検索結果の質を向上させます。

Promptrieverの技術原理

デュアルエンコーダアーキテクチャこれはデュアルエンコーダーアーキテクチャに基づいており、基盤となるサポートモデルとして大規模な言語モデル（LLaMA-2 7Bなど）を使用しています。
指示トレーニングデータセット: Select and publish new instruction-level training sets from the MS MARCO dataset, which include natural language instructions that define query relevance.
命令生成言語モデルを使用して、より具体的な指示を生成します。これにより、追加の要件を追加したり、特定の種類の文書を明示的に除外したりすることができます。
指示否定例マイニング生成とフィルタリング（クエリ、パッセージ）のペアに基づいて、特定の指示が追加された後に関連性が低下することを示すネガティブサンプルが作成され、モデルは指示に応じて関連性の判断を調整する方法を学習せざるを得なくなります。
ゼロショットヒント技術このアプローチは、言語モデルのヒントと同様に、ゼロショットヒントを利用してハイパーパラメータ探索を実行することで、検索性能を向上させます。

Promptrieverのプロジェクトアドレス

GitHubリポジトリ：https://github.com/orionw/promptriever
arXiv技術論文：https://arxiv.org/pdf/2409.11136

Promptrieverの応用事例

検索エンジン最適化ユーザーの自然言語による検索クエリや指示を理解することで、より正確な検索結果を提供し、検索体験を向上させます。
スマートアシスタントとチャットボット複雑なユーザーコマンドを理解し実行することができ、よりパーソナライズされた、状況に応じた応答を提供する。
社内検索企業知識ベースから特定の情報を迅速かつ正確に取得し、業務効率を向上させる。
学術研究および文献検索研究者の詳細な検索指示に基づいて、特定の学術論文や文献を検索します。
電子商取引ユーザーの購買ニーズや好みに基づいて、カスタマイズされた検索結果と商品のおすすめを提供します。