CAMPHOR - Appleのデバイス内小型言語モデルマルチエージェントフレームワーク

樟脳とは何ですか？

CAMPHORは、Appleが開発したモバイルデバイス向け小型言語モデル（SLM）のためのマルチエージェントフレームワークで、プライバシーと応答性を向上させます。このフレームワークは、複数のユーザー入力をデバイス上でローカルに処理し、パーソナライズされたコンテキスト推論を実行することで、ユーザーのプライバシーとセキュリティを確保します。CAMPHORは階層型アーキテクチャを採用しており、高次の推論エージェントが複雑なタスクを分解し、エキスパートエージェントと連携して、パーソナライズされたコンテキスト検索、ツールとのインタラクション、動的なプラン生成を実行します。エージェント間でパラメータを共有し、プロンプト圧縮技術を用いることで、CAMPHORはモデルサイズ、レイテンシ、メモリ使用量を大幅に削減します。

カンファーの主な機能

• 複数ユーザー入力処理複数のユーザーからの入力を同時に処理できます。
• ローカルコンテキスト推論プライバシー保護のため、デバイス上でローカルに個人コンテキスト推論を実行します。
• 複雑なタスクの分解複雑なタスクをより小さなサブタスクに分解することで、管理と実行が容易になる。
• ツール操作デバイス上のツールやアプリケーションを操作して、特定のタスクを実行します。
• 動的計画法ユーザーのニーズと状況に基づいて、実行プランを動的に生成します。
• パラメータ共有異なるエージェント間でパラメータを共有することで、モデルのサイズが縮小し、効率が向上します。

カンファーの技術的原理

• 階層型アーキテクチャこれは、高レベルの推論エージェントと複数のエキスパートエージェントを含む、階層的なエージェントアーキテクチャを採用しています。
• 高度な推論高次推論エージェントは、タスク実行プロセス全体の計画と調整を担当する。
• エキスパートインテリジェントエージェントエキスパートエージェントは、個人の状況認識やツールとの連携といった特定のタスクを担当します。
• パラメータ共有これにより、エージェント間でパラメータを共有できるようになり、モデルのストレージ容量と計算能力の要件が軽減されます。
• 圧縮を促す関数定義を単一のトークンに圧縮することでプロンプトの長さを短縮し、限られたリソースでも動作させることができます。
• ローカルで実行すべての処理はユーザーのデバイス上で行われ、サーバーとの通信は不要なため、プライバシーが保護され、遅延も低減されます。

CAMPHORプロジェクトの住所

• プロジェクト公式サイト：machinelearning.apple.com/research/collaborative-agents
• arXiv技術論文：https://arxiv.org/pdf/2410.09407

カンファーの応用シナリオ

• パーソナライズされたモバイルアシスタントスマートフォン上では、ユーザーのスケジュール管理、リマインダー設定、情報検索といった日常的なタスクを処理する、パーソナライズされたモバイルアシスタントとして機能します。
• プライバシー保護されたデータ処理健康データ管理や金融情報処理など、ユーザーのプライバシー保護が求められるシナリオに適しています。
• マルチタスク並列処理ホームオートメーションシステムなど、複数のリクエストを並列処理する必要がある環境に適しています。
• ローカリゼーションサービス安定したネットワーク接続がない場合、ナビゲーションやローカル情報の検索など、ローカルデータに基づいたサービスを提供します。
• スマートデバイスとの連携スマートホーム機器などの様々なスマートデバイスと連携し、デバイス間の協調作業を可能にする。