URM - アリババ傘下のアリママが立ち上げた世界知識モデル - AiBoss

URMとは何ですか？

URM（Universal Recommendation Model）は、Alimamaが開発したグローバル知識モデルです。知識注入と情報整合に基づき、LLMの一般的な知識とeコマース分野の専門知識を組み合わせることで、従来のLLMがeコマースのレコメンデーションシナリオで抱えていた性能不足の問題を解決します。URMは、マルチモーダルな商品表現の融合と効率的なシーケンスイン・セットアウト生成手法を導入することで、マルチシナリオレコメンデーションやロングテールレコメンデーションなど、様々なレコメンデーションタスクに対応し、レコメンデーション性能を大幅に向上させています。URMはAlimamaのディスプレイ広告シナリオに導入され、販売者の広告効果と消費者のショッピング体験を大幅に改善しています。

URMの主な機能

マルチタスクマルチシナリオ推薦、マルチ目的推薦、ロングテール推薦、発見型推薦など、複数の推薦タスクの同時処理をサポートします。
ユーザーの関心の理解ユーザーの興味やニーズを十分に理解し、ユーザーの現在の状況により合致した推薦結果を提供する。
高効率推奨単一の順伝播処理で高品質な推薦セットを生成し、産業グレードの推薦システムに求められる低遅延と高QPSの要件を満たします。
マルチモーダル融合商品ID表現と意味表現（テキストや画像など）を組み合わせることで、商品の表現力とレコメンデーションの精度を向上させることができます。
ゼロショット学習能力大量のラベル付きデータがなくても、新しいタスクやシナリオに迅速に適応し、効果的な推奨事項を提供できます。

URMの技術原則

マルチモーダル融合特性評価：
- ID表現分散ハッシュテーブルに基づき、製品IDは固有の埋め込みベクトルにマッピングされ、製品間の連携情報を捉える。
- 意味表現テキストエンコーダーと画像エンコーダーは、製品のテキスト説明と画像情報を意味埋め込みベクトルに変換します。
- 統合メカニズムMLP層は、ID表現と意味表現を整合させて融合し、マルチモーダルな製品埋め込みベクトルを生成することで、製品の表現力を向上させます。
シーケンスインセットアウト生成方法入力シーケンスは、ユーザー行動からの製品ID、タスクプロンプトからのテキストトークン、および特殊なクエリ文字（UMやLMなど）で構成されます。出力メカニズムは、ユーザーモデリングヘッド（hUM）と言語モデルヘッド（hLM）に基づいて、それぞれユーザー表現とテキスト出力を生成します。UMトークンの数を増やすことで、URMは単一の順伝播中に複数のユーザー表現を並行して生成できるようになり、再現率が向上します。
タスク定義とプロンプトエンジニアリングこのアプローチでは、テキストに基づいてさまざまな推薦タスクを定義し、製品IDを特殊なトークンとしてテキスト説明に挿入することで、ユーザーの行動シーケンスを効率的に表現します。さまざまなプロンプトテンプレートが推薦結果の分布を調整するために設計されており、モデルはさまざまなタスク要件やユーザーの行動に応じて推薦戦略を動的に調整できます。
トレーニング方法このアプローチでは、商品推薦タスクにおけるノイズコントラスト推定（NCE）損失と、テキスト生成タスクにおける負の対数尤度損失を組み合わせます。完全なパラメータに基づく教師ありファインチューニング（SFT）では、元の商品表現のみを固定し、LLMの事前学習済み知識を保持します。
非同期推論リンク低遅延と高QPSの要件を満たすため、ユーザーの行動を動的に捉える非同期推論パイプラインを設計し、推論結果をオンライン呼び出しフェーズで取得できるように永続的に保存します。同じコンテナ内に複数のインスタンスをデプロイすることで、URM推論の同時QPSを200%向上させます。

URMプロジェクトの住所

arXiv技術論文：https://arxiv.org/pdf/2502.03041

URMの適用シナリオ

複数シナリオのレコメンデーションホームページや詳細ページなど、さまざまなページに基づいてパーソナライズされたおすすめ情報を提供します。
多目的レコメンデーションユーザーのクリック、購入、その他の行動を包括的に分析することで、ユーザーが興味を持つであろう商品を予測できます。
ロングテール商品のおすすめ低周波製品の潜在的な価値を探り、ユーザーの選択肢を広げる。
発見に基づく推奨事項ユーザーがこれまで出会ったことがないかもしれないが、興味を持つ可能性のある新しい製品カテゴリを提案する。
検索のおすすめ機能を強化しましたクエリの意図と過去の行動履歴を組み合わせることで、検索結果の関連性を向上させることができます。