Phi-4推論 - マイクロソフトのPhi-4推論モデルシリーズ

ファイ4推論とは何ですか？

Phi-4-reasoning は、Microsoft が開発した 140 億パラメータの推論モデルで、複雑な推論タスク向けに設計されています。教師ありファインチューニング (SFT) を使用してトレーニングされ、OpenAI の o3-mini モデルによって生成された高品質の推論デモデータを利用します。このモデルは詳細な推論チェーンを生成し、推論中に計算リソースを効果的に利用します。Phi-4-reasoning は複数のベンチマークで非常に優れたパフォーマンスを発揮し、DeepSeek-R1-Distill-Llama-70B などのより大きなパラメータスケールのモデルを凌駕します。数学的推論、科学的問題、プログラミング、アルゴリズム的問題解決など、さまざまなドメインで優れたパフォーマンスを発揮します。Phi-4-reasoning-plus は、強化学習を使用してさらに最適化されたバージョンで、より強力な推論機能を提供します。Phi-4-mini-reasoning は、モバイル デバイスやエッジ コンピューティング シナリオなどのリソース制約のある環境向けに設計された、コンパクトな 38 億パラメータの推論モデルです。 DeepSeek-R1モデルによって生成された合成データを用いて微調整が行われます。

ファイ4推論の主な機能

• 強力な複雑推論能力ファイ4推論は、多段階の分解と内部考察を必要とする複雑なタスクを処理することができ、数学的推論、科学的問題解決、プログラミング、アルゴリズム的問題解決などの分野で優れた性能を発揮します。
• 詳細な推論チェーンを生成するこのモデルは、教師ありファインチューニング（SFT）によって学習され、詳細な推論チェーンを生成し、推論段階での計算リソースを効果的に活用し、推論の精度と効率を向上させることができます。
• コンピューティングリソースの効率的な利用Phi-4推論は、推論時間のスケーリングを通じて、推論中に動的に多くの計算リソースを割り当てることができ、それによって推論能力をさらに向上させることができます。
• 教育および個別指導アプリケーションPhi-4-reasoningは、高校レベルから博士課程レベルまで、幅広い数学の問題を網羅しており、教育現場における組み込み型個別指導や低遅延シナリオに適しています。
• 軽量展開Phi-4-mini-reasoningは、リソースが限られた環境向けに設計されたシリーズのコンパクト版であり、モバイルデバイスやエッジコンピューティングのシナリオへの導入に適しています。
• マルチドメイン適応性数学的・科学的推論能力に加え、Phi-4推論能力は、長文入力の文脈的質問への回答、指示の理解、プログラミング、知識や言語の理解など、一般的な適性検査においても優れた能力を発揮します。

ファイ4推論の技術的原理

• 監視微調整（SFT）Phi-4-reasoningは、Phi-4モデルをベースに、「思考中」と「思考終了」の2つのプレースホルダーを再割り当てすることで、追加の推論マーカーに対応し、モデルがサポートするマーカーの最大長を16Kから32Kに拡張しています。トレーニングデータには、合成的に生成された長連鎖思考推論トレースと、数学、プログラミング、セキュリティなどの分野を網羅した高品質の回答が含まれています。約16Kのトレーニングステップを経て、モデルは徐々に「思考中」マーカーの使い方を学習し、トレーニング中に推論能力を向上させます。
• 強化学習（RL）Phi-4-reasoning-plusは、結果に基づく強化学習によって推論能力をさらに向上させたバージョンです。強化学習は数学的推論に焦点を当て、72,401問の数学問題をシードデータセットとして使用します。報酬関数は、正解を奨励し、不適切な行動（繰り返しや長すぎる解答など）を罰し、適切な解答形式を促すように設計されています。
• データ手法Phi-4推論トレーニングデータ手法は、創造的に設計された合成生成データとフィルタリングされたオーガニックデータを含む、高品質データのキュレーションを重視しています。シードデータベースは、さまざまなオンラインリソースから質問を収集して構築され、その後、LLM評価およびフィルタリングプロセスによってフィルタリングされ、複雑な多段階推論を必要とするヒントが優先されます。このトレーニングデータは、一般的に使用される推論ベンチマークによる汚染を避けるために、包括的な除染処理を受けます。

Phi-4推論プロジェクトのアドレス

• ハギングフェイスモデルライブラリ：https://huggingface.co/collections/microsoft/phi-4
• arXiv技術論文：https://arxiv.org/pdf/2504.21318

ファイ4推論の応用

• 教育と研究Phi-4推論とPhi-4ミニ推論は教育分野に最適であり、中学校から博士課程レベルまでの幅広い数学および科学の問題解決を可能にする。
• 複雑なビジネス意思決定支援Phi-4-reasoning-plusは、強化学習によって推論能力をさらに強化し、高い精度が求められる重要なビジネス意思決定支援システムに適しています。複雑な多段階タスクを処理し、複雑なビジネス問題に対して正確な解決策を提供します。
• プログラミングとアルゴリズムによる問題解決Phi-4-reasoningは、プログラミングやアルゴリズムの問題解決に優れ、詳細な推論過程と解を生成します。開発環境におけるコード支援やアルゴリズム最適化タスクに適しています。
• 軽量展開とモバイルデバイスPhi-4-mini-reasoningは、モバイルデバイスやエッジコンピューティングなどの計算能力が限られた環境向けに設計された、コンパクトな推論モデルです。
• プロキシアプリケーションのコアエンジンPhi-4推論モデルシリーズは、複雑で多面的なタスクを処理する機関向けアプリケーションの中核エンジンとして機能することができる。