AB
AB
AiBoss

すべてのカテゴリ

project

OneRec - Kuaishouのエンドツーエンド生成型レコメンデーションシステム

OneRecは、Kuaishouが新たに開発したエンドツーエンドの生成型推薦システムです。エンコーダー・デコーダーアーキテクチャを採用し、スパースなMixture-of-Experts（MoE）技術を活用することで、高い計算性能を維持しながらモデル容量を向上させています。従来のシステムと比較して…

OneRecとは何ですか？

OneRecは、Kuaishouが新たに開発したエンドツーエンドの生成型推薦システムです。エンコーダー・デコーダーアーキテクチャを採用し、スパースなMixture-of-Experts（MoE）技術を活用することで、高い計算性能を維持しながらモデル容量を強化しています。従来のカスケード型推薦システムとは異なり、OneRecは会話型生成手法を用いて、文脈に沿った推薦結果を生成します。さらに、反復的な選好アライメントモジュールと直接選好最適化（DPO）を組み合わせることで、推薦品質を向上させています。トレーニング中、OneRecはマルチモーダル表現をトークンシーケンスに量子化してモデルへの入力とし、2段階のトレーニング戦略を採用しています。まず、基本的なアイテム予測タスクのトレーニングを行い、次にDPOを用いて選好アライメントを実行します。

OneRecの主な機能

  • エンドツーエンドの生成アーキテクチャOneRecはエンコーダー・デコーダーアーキテクチャを採用し、推薦問題をシーケンス生成タスクに変換します。エンコーダーはユーザーの過去の行動シーケンスを統合し、デコーダーはスパースハイブリッドエキスパート（MoE）アーキテクチャを通じて、ユーザーが興味を持ちそうな動画を段階的に生成します。
  • 会話生成方法従来のポイントごとの予測とは異なり、OneRecは会話型の生成方法を提案しており、これにより推薦リスト全体を生成し、文脈情報をより適切に捉えることができます。
  • 実験的検証と効果の改善OneRecは、Kuaishouプラットフォーム上でのオンラインA/Bテストにおいて、視聴時間を1.6%増加させることに成功し、従来の手法を大幅に上回る成果を上げた。

OneRecの技術原則

  • エンコーダ・デコーダアーキテクチャneRecはエンコーダー・デコーダーアーキテクチャを採用し、推薦問題をシーケンス生成タスクに変換します。エンコーダーはユーザーのライフサイクル行動シーケンス全体を興味ベクトルに圧縮し、デコーダーはスパースハイブリッドエキスパート（MoE）アーキテクチャを用いて、ユーザーが興味を持ちそうな動画を段階的に生成します。これにより、ユーザーの興味の変化をより的確に捉え、一貫性のある推薦リストを生成することが可能になります。
  • マルチモーダル単語分割器OneRecは、動画タイトル、タグ、音声認識、画像認識といった多次元情報を統合し、階層的な意味IDに変換する、協調的な知覚ベースのマルチモーダル単語分割ソリューションを先駆的に開発しました。これにより、ユーザーの興味関心をより正確にモデル化することが可能になります。
  • 強化学習による嗜好の整合OneRecは、報酬ベースの嗜好調整手法を導入し、強化学習を通じてモデルのパフォーマンスを向上させています。このモデルは、嗜好報酬、フォーマット報酬、ビジネス報酬を活用して包括的な報酬システムを構築し、生成される結果を最適化します。これにより、モデルはユーザーのきめ細かな嗜好をより的確に把握できるようになり、推薦精度が向上します。
  • パフォーマンス最適化OneRecは、アーキテクチャの再構築によって主要演算子の数を大幅に削減し、疎なMoEアーキテクチャによってモデル容量を拡張することで、計算効率を大幅に向上させています。トレーニングと推論の最適化により、モデル浮動小数点利用率（MFU）を高め、計算効率の大幅な向上を実現しています。

OneRecのプロジェクトアドレス

  • arXiv技術論文：https://export.arxiv.org/pdf/2502.18965

OneRecのアプリケーションシナリオ

  • ショートビデオのおすすめOneRecはKuaishouの主要なショートビデオ推薦シナリオにおいて非常に優れたパフォーマンスを発揮し、リクエストの約25%（QPS）を処理しました。生成アーキテクチャと強化学習による嗜好の整合により、OneRecは滞在時間、いいね、フォロー、コメントといったユーザーエンゲージメント指標において大幅な改善を実現しました。
  • 地域生活サービスOneRecは、Kuaishouの地域生活サービス分野においても顕著な成果を上げています。A/B比較実験の結果、総取引額（GMV）が21.01%、注文数が17.89%、購入ユーザー数が18.58%増加し、新規顧客獲得効率が23.02%向上したことが示されました。
  • ライブコンテンツマッチングOneRecは、ライブストリーミングコンテンツのマッチングに使用されます。レコメンデーションシーケンスを動的に生成することで、ユーザーのリアルタイムの興味関心により的確に対応し、ライブストリーミングにおけるユーザーエンゲージメントとインタラクションを向上させることができます。
  • 広告掲載広告分野において、OneRecの生成型アーキテクチャは、ユーザーの興味や行動に基づいて広告の推奨を動的に生成することができ、広告の精度とコンバージョン率を向上させます。
戻る