Llama 3.1 - Metaの最新かつ最も強力なオープンソースAIモデル

Llama 3.1とは何ですか？

Llama 3.1は、Metaの最新オープンソースAIモデルで、バージョン8B、70B、405Bで構成されています。4050億個のパラメータを持つバージョン405Bは、現在利用可能なオープンソースモデルの中で最大規模の一つです。Llama 3.1は128Kのコンテキスト長をサポートしており、長文テキストの処理や多言語翻訳機能を提供します。特に数学、推論、長文テキスト処理において、複数のAIベンチマークで卓越したパフォーマンスを発揮し、GPT-4oやClaude 3.5 Sonnetといったトップレベルのクローズドソースモデルに匹敵します。さらに、Metaは革新的なAIアプリケーションの開発を促進するために、Llama Stack APIとセキュリティツールを提供しています。

Llama 3.1の機能

• コンテキストの長さLlama 3.1は最大128Kのコンテキスト長をサポートしており、より長いテキスト情報を処理・理解することが可能です。これは、長文要約や多言語対話といった高度なアプリケーションにとって非常に有益です。
• 多言語能力このモデルは、英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語を含む8つの言語に対応しており、多言語翻訳や異文化間コミュニケーションにおいて優れた性能を発揮します。
• 数学的および論理的思考能力Llama 3.1は、GSM8KやARC Challengeなどの数学および推論テストで非常に高いスコアを獲得しており、複雑な数学問題を解決し、論理的推論を行う優れた能力を示しています。
• 長文処理ZeroSCROLLS/QuALITYテストにおいて、Llama 3.1はGPT-4と同等のスコアを記録し、他のモデルを凌駕する性能を示し、長文理解における優れた能力を実証した。
• ツールの使い方Llama 3.1はBFCLテストで高いスコアを獲得し、ツールの使用とプログラミングタスクの実行において優れた能力を発揮しました。
• 特別テストNIH/マルチニードルテストにおいて、ラマ3.1はほぼ満点に近いスコアを獲得し、特定の分野における卓越した高い専門性を示した。
• 定量的最適化大規模な推論をサポートするため、Llama 3.1 モデルは BF16 から FP8 に量子化されており、計算リソースの要件を効果的に削減し、より幅広いハードウェアでモデルを実行できるようにしています。

Llama 3.1のパフォーマンス

Metaは、150以上のベンチマークデータセットを用いてLlama 3.1の性能を評価し、実際のシナリオにおける他のモデルとの性能を比較した。405Bモデルは、GPT-4、GPT-4o、Claude 3.5 Sonnetなど、さまざまなタスクにおいて、主要なベースモデルと遜色ない性能を発揮します。さらに、より小さなモデルは、パラメータ数が同程度の閉鎖型モデルや開放型モデルと遜色ない性能を発揮する。

8Bモデルと70Bモデルはベンチマークテストで大幅な改善を示しました。Llama 3.1はベンチマークテストで非常に優れたパフォーマンスを発揮しました。8BモデルはMMLUテストで65ポイントから73ポイント（8ポイント向上）に向上し、70Bモデルは81ポイントから86ポイント（5ポイント向上）に向上しました。MATH（数学的問題解決）テストでは、8Bモデルのスコアは29ポイントから52ポイント（23ポイント向上）へと劇的に向上しました。

Llama 3.1 405Bは、一般的なタスク、知識推論、読解において新たな記録を樹立しました。特にMMLUとSQuADのサブベンチマークにおいて、その改善は顕著です。Llama 3.1の8Bおよび70Bパラメータバージョンは、Llama 3に比べて微妙な改善が施されています。Llama 3.1 405Bは、事前学習済みモデルよりも大幅に性能が向上しています。推論、コーディング、数学、ツール使用、多言語ベンチマークにおいて、微調整された8Bおよび70Bバージョンを凌駕する性能を発揮します。

Llama 3.1プロジェクトのアドレス

• プロジェクト公式サイト：https://llama.meta.com/
• GitHubリポジトリ：https://github.com/meta-llama
• ハグフェイスモデルライブラリ：https://huggingface.co/meta-llama