AB
AiBoss
project

LongCat-2.0 - Meituanのオープンソース次世代兆パラメータ言語モデル

LongCat-2.0は、美団がオープンソース化した大規模な文法モデルであり、パラメータの総数は1兆6000億個に及ぶ。各トークンは約480億個のパラメータを有効化し、トレーニングと展開はAI ASICスーパーコンピューティングクラスタに基づいて行われる。

LongCat-2.0とは何ですか?

LongCat-2.0は、Meituanがオープンソース化した大規模なMoE言語モデルで、総パラメータ数は1.6兆個、トークンあたり約480億個のパラメータがアクティブ化されています。AI ASICスーパーコンピューティングクラスタを使用して学習および展開されました。このモデルは最大1MBの超長文コンテキストをサポートし、LongCat Sparse AttentionとN-gram Embeddingアーキテクチャを組み込んでおり、コード生成、エージェントタスク実行、複雑な推論シナリオにおいて優れたパフォーマンスを発揮します。Claude Code、OpenClaw、Hermesといった主流ツールと深く統合されています。

LongCat-2.0の主な機能

  • 極めて長い文脈理解ネイティブで100万トークンのコンテキストウィンドウをサポートしており、コードベース全体や長文ドキュメントを一度に読み込むことで、正確な位置特定と詳細な理解が可能になり、従来のモデルで発生していた「途中で忘れられる」問題を回避できます。
  • コード生成とリファクタリングエージェントコーディング機能に基づき、リポジトリレベルのコード分析、ファイル間ロジックソート、アーキテクチャ移行、関数リファクタリングをサポートし、初回コンパイルで正常に動作します。
  • 自律エージェントの実行Claude Code、OpenClaw、Hermesといった主流のハーネスと深く統合されており、複数ステップのタスク計画、ツール呼び出し、APIとの連携、エラーの自己修正などを自律的に実行できます。
  • 多言語コードのサポート言語を跨いだコードの理解と生成が可能で、中国語と英語など複数の言語が関わるプログラミングシナリオにおけるコード移行とレビューをサポートします。
  • インテリジェント検索と情報取得内蔵の検索機能とブラウジング機能は、複雑な情報検索、マルチホップ推論、およびウェブページ間のコンテンツ統合をサポートし、研究タスクのニーズを満たします。
  • 自然言語データクエリビジネス担当者は自然言語を使ってデータベースに直接クエリを実行でき、モデルは意図の解析、SQLの生成、実行、および結果の分析出力を自動的に完了します。

WeChatでフォローして「オープンソース「、参加するAIオープンソースプロジェクトに関するディスカッショングループ

LongCat-2.0の技術原理

  • MoEスパースアーキテクチャ本システムは、合計1.6兆個のパラメータとトークンあたり約480億回のアクティベーションを持つハイブリッドエキスパートアーキテクチャを採用し、疎なアクティベーションによってパラメータ規模と計算効率のバランスを実現しています。
  • LongCat Sparse Attention (LSA)ストリーミング対応インデックス(SI)、クロスレイヤーインデックス(CLI)、階層インデックス(HI)という3つの主要コンポーネントの導入により、長いコンテキストアテンションの計算が二次関数から線形関数に削減され、数百万個のトークンコンテキストを処理する際のボトルネックが解消されます。
  • N-gram Embedding5グラム埋め込みモジュールを設定することで、トークンの組み合わせによって埋め込み空間を約100倍に拡張し、より豊富なローカルコンテキストを捉え、表現能力を向上させます。
  • ゼロコンピューティング専門家 + ScMoE計算リソースはトークンの複雑さに基づいて動的に割り当てられます。単純なトークンは非効率な計算を避けるため、エキスパートがゼロのノードにルーティングされますが、複雑なトークンは自動的により多くのエキスパートリソースを受け取ります。
  • MOPDマルチエキスパート融合トレーニングこのシステムは、マルチティーチャー・オンポリシー・ディスティル・アーキテクチャを通じて、エージェントエキスパート、推論エキスパート、インタラクションエキスパートという3種類のエキスパートグループを統合し、ゲーティングネットワークがタスクの種類に基づいて最適なエキスパートの組み合わせを動的にスケジューリングします。
  • 6Dパラレルトレーニング標準的なTP/CP/EP/DP/PPをベースにEMBPを追加し、Superpodの物理クラスタアーキテクチャと組み合わせることで、超大規模かつ効率的なトレーニングを実現します。

LongCat-2.0の使い方

  • オンライン体験LongCatの公式サイトにアクセスして、モデルの機能を直接操作したり試したりしてみてください。
  • APIアクセスAPIキーを取得するには、https://longcat.chat/platform/product にログインし、それを独自のアプリケーションまたはエージェントフレームワークに統合してください。
  • ツール統合基盤となるモデルドライバとして、Claude Code、OpenClaw、Hermesといった主流のAI開発ツールチェーンと直接統合されます。

LongCat-2.0の主な利点

  • 国内コンピューティングパワーの全チェーン業界初となる、5万枚のグラフィックカードを搭載した国内クラスター上で、1兆パラメータモデルのトレーニングと推論の全プロセスを完了させたモデルであり、NVIDIA以外のプラットフォームでも実現可能であることを実証した。
  • 何百万ものコンテキスト:1MネイティブコンテキストウィンドウとLSAスパースアテンションを組み合わせることで、長いテキストの正確な位置特定と理解が可能になり、「途中の忘却」を解消します。
  • エージェントコーディング専任コードの理解、生成、実行における徹底的な最適化により、SWE-benchやTerminal-Benchなどのベンチマークにおいて、Gemini 3.1 ProやGPT-5.5を凌駕する性能を発揮します。
  • 動的計算割り当てゼロ計算エキスパートとScMoEにより、トークンレベルの動的アクティベーション(33B~56B)が可能になり、単純なトークンは計算能力を消費せず、複雑なタスクは自動的により多くのリソースを取得します。
  • 3人の専門家の統合MOPDアーキテクチャは、エージェント、推論、およびインタラクションの専門家グループを統合し、実行、推論、およびインタラクティブな体験を考慮した動的なスケジューリングのためにゲート付きネットワークを使用します。
  • グローバル開発者表彰プレビュー版はOpenRouterを通じて利用可能で、月間利用率は世界トップ3にランクインしており、Hermes、Claude Code、OpenClawの中でそれぞれ1位、2位、3位となっている。

LongCat-2.0プロジェクトのアドレス

  • プロジェクト公式サイト:https://longcat.chat/blog/longcat-2.0/
  • GitHubリポジトリ:https://github.com/meituan-longcat/LongCat-2.0
  • ハギングフェイスモデルライブラリ:https://huggingface.co/meituan-longcat/LongCat-2.0

LongCat-2.0と類似の競合製品との比較

比較対象寸法 LongCat-2.0 DeepSeek-V3
出版社 美団 DeepSeek
合計パラメータ 1.6兆ドル(教育省) 6710億(教育省)
活性化パラメータ 約480億/トークン 約370億/トークン
コンテキストの長さ 100万トークン 64K-128K tokens
トレーニング用ハードウェア 5万枚のカードを搭載した国内コンピューティング能力クラスター NVIDIA GPUクラスター
注意機構 LongCat Sparse Attention (LSA) Multi-head Latent Attention (MLA)
埋め込み最適化 N-gram Embedding (5-gram, 135B) 標準埋め込みレイヤー
トレーニング後のアーキテクチャ MOPD(マルチエキスパート融合)(エージェント/推論/インタラクション) 標準SFT + RL
コーディング能力(SWE-bench Pro) 59.5 ~50+

LongCat-2.0の応用シナリオ

  • 大規模なコード移行コードベース全体と移行ドキュメントを読み込み、アーキテクチャを自動的にマッピングし、プラグインを新しいSDKに合わせてリファクタリングすることで、機能を維持し、潜在的なバグを修正します。
  • リポジトリレベルのコードレビュー1Mのコンテキストに基づいて、プロジェクト全体の構造を理解し、ファイル間のバグ検出、パフォーマンス最適化、およびアーキテクチャの提案を行うことができます。
  • AIエージェント開発Claude CodeやOpenClawといったフレームワークを支える基盤モデルとして、複雑な複数ステップのタスクや自律的なツール呼び出しを実行します。
  • 長文文書の分析と生成数百万語に及ぶ技術文書、論文、報告書を処理し、詳細な要約、質疑応答、コンテンツの書き換えを行う。
  • データクエリとインサイトビジネスユーザーは自然言語を使ってデータベースにクエリを実行し、モデルが自動的にSQLクエリを生成、実行、解釈します。