project
dots3-note プレビュー - Xiaohongshu のオープンソース多モード MoE モデル
dots3-note preview は、小紅書 dots モデルラボによるオープンソース dots3 シリーズの最初のバージョンであり、IMO 2026 の perfect-score モデルと同じシリーズの一部です。このモデルは、合計 280B のパラメータと 16B の活性化パラメータを持つ MoE アーキテクチャを使用し、...
Dots3-Noteプレビューとは何ですか?
Dots3-note previewは、小紅書のDots Model Labがオープンソース化したDots3シリーズの最初のバージョンであり、IMO 2026で満点を獲得したモデルと同じシリーズに属しています。このモデルは、合計280Bのパラメータと16Bのアクティベーションパラメータを持つMoEアーキテクチャを採用し、512Kの超長文コンテキストと、テキスト、画像、音声のマルチモーダル理解をサポートしています。複雑な推論、エージェント、マルチモーダル知覚に最適化されており、旅行計画や結婚式の準備といった長期にわたるオープンタスクに特化しており、複数の推論およびエージェントベンチマークにおいて、数倍のパラメータを持つ大規模モデルに匹敵する性能を発揮します。
dots3-noteプレビューの主な機能
-
長距離オープンドメインエージェント旅行計画や結婚式の準備など、単一の解決策がなく、長期間を要する複雑な業務を専門とし、自主的に業務を推進し、成果を出す。
-
複雑な推論と数学的証明2026年の国際数学オリンピックで満点を取る能力を受け継ぎ、最高レベルの数学的推論能力と形式的証明能力を備えている。
-
マルチモーダルな理解テキスト、画像、動画、音声の入力に対応しており、視覚的な空間解釈、文書や図表の解析、動画による質疑応答などを実行できます。
-
エンドツーエンドのソフトウェアエンジニアリング要件分析、技術選定、コード実装、コンパイル、ビルドから検証、運用に至るまで、開発プロセス全体を単独で完了できる能力。
-
自己主導型学習とエラー訂正ルールが不明な環境において、仮説を観察し、フィードバックを検証し、自己批判的な修正を開始し、エラーが発生した際には動的メモリに書き込みます。
-
対話型タスク実行特別な訓練なしに、ゲームを乗っ取ったり、ARC-AGIなどのリアルタイムのフィードバックと長期的な戦略調整を必要とするタスクを解読したりすることができる。
dots3-noteプレビューの技術的原理
- MoEハイブリッドエキスパートアーキテクチャこのモデルは合計280B個のパラメータを持ち、そのうち活性化パラメータはわずか16B個です。256個のルーティングエキスパートと1個の共有エキスパートを用いた設計を採用しています。各層はTop-8ルーティングによって活性化エキスパートを選択し、5,120次元の隠れ層と152Kの語彙を備えることで、推論コストを抑えつつ、大容量モデルの表現力を実現しています。
- マルチトークン予測の高速化内蔵の共有マルチトークン予測レイヤーは、11.3億個のパラメータを持ち、現在のトークンを生成しながら最大3つの後続トークンを並行して予測できます。これにより、別途ドラフトモデルを用意することなく投機的デコードを実現し、推論レイテンシを効果的に削減してスループットを向上させます。
- マルチモーダルエンコーダー融合視覚情報は、合計70億のパラメータと12億のアクティベーションを持つMoE ViTエンコーダによって処理され、音声は8億のパラメータを持つ密なネットワークによってエンコードされます。各モダリティの特徴は投影され、言語モデルと整合させることで、テキスト、画像、ビデオ、音声の統一的な理解とクロスモーダルな推論を実現します。
- 長期的課題認知メカニズムこのモデルは、512Kの超長コンテキストウィンドウを活用し、オープンな環境での観察を通して仮説を提案・検証します。エラーが発生した場合は、自己批判を開始し、修正されたルールを外部メモリファイルであるmemory.mdに書き込むことで、段階をまたいだ知識の蓄積と戦略の調整を実現します。
WeChatでフォローして「オープンソース「、参加するAIオープンソースプロジェクトに関するディスカッショングループ
dots3-noteのプレビュー機能の使い方
- 公式プラットフォームをご覧くださいhttps://dots.ai/platform/ にアクセスしてアカウントを登録し、APIキーを取得すれば、ローカル環境にデプロイすることなく、クラウドインターフェースから直接モデルを呼び出すことができます。
- モデルの重量をダウンロードハギングフェイスで発見
dots-studio/dots3-note-prevリポジトリからApache-2.0ライセンスの下、モデルの重み付けファイルをローカルサーバーにダウンロードしてください。 - 推論フレームワークをインストールするハードウェア環境に基づいて、vLLM、SGLang、Transformersなどの互換性のあるフレームワークを選択してインストールし、モデルをロードして推論の準備をします。
- 並列戦略を構成する合計パラメータ規模が280Bの場合、ビデオメモリとパフォーマンスの要件を満たすために、テンソル並列処理(TP)とエキスパート並列処理(EP)が設定され、計算処理が複数のGPUに分散されます。
- タスク呼び出しを開始しますAPIまたはローカルインターフェースを介して、テキスト、画像、音声などのマルチモーダルデータを入力し、長期的なエージェントタスク、複雑な推論、またはエンドツーエンドのソフトウェアエンジニアリングをトリガーします。
dots3-noteプレビューの主な利点
-
極めて高いパラメータ効率合計2800億個のパラメータのうち、実際にアクティブ化されるのはわずか160億個であり、推論能力とエージェント機能は、パラメータ数が数倍あるモデルと同等、あるいはそれ以上でありながら、同等の性能を持つ大規模モデルよりもはるかに低い計算能力で実現されています。
-
長距離オープンドメインエージェント数学やプログラミングといった標準化されたシナリオとは異なり、旅行計画や結婚式の準備など、単一の答えがなく、長期間を要する現実世界の複雑なタスクに特化している。
-
優れた推論能力遺伝子本製品は、IMO 2026公式認証において満点(42/42)を獲得した数学的推論能力と形式的証明能力を受け継いでいる。
-
ネイティブなマルチモーダル理解テキスト、画像、動画、音声の処理を統合し、視覚的な空間解釈、文書や図表の解析、および異種感覚モダリティ間の推論をサポートする。
-
自己主導型学習とエラー訂正自己批判メカニズムが組み込まれており、エラーを自動的に修正し、ルールを動的メモリ用のmemory.mdに書き込むことで、ステップ間で知識を蓄積できます。
-
エンドツーエンドのエンジニアリング能力要件分析、技術選定、コード実装からコンパイル、検証に至るまで、ソフトウェアエンジニアリングの全プロセスを単独で遂行できる能力。
dots3-noteプレビューのプロジェクトアドレス
- プロジェクト公式サイト:https://studio.dots.ai/dots/dots3-en.html
- GitHubリポジトリ:https://github.com/studio-dots-ai/dots3-note-prev
- ハギングフェイスモデルライブラリ:https://huggingface.co/dots-studio/dots3-note-prev
dots3-noteのプレビュー機能と類似の競合製品との比較
| 比較対象寸法 | dots3-note preview | DeepSeek-v4-flash-0731 |
|---|---|---|
| パラメータスケール | 合計パラメータ数:280B / アクティベーション数:16B | 合計パラメータ数:284B / アクティベーション数:13B |
| 建築 | MoE(ルーティングエキスパート256名+共有エキスパート1名、上位8名) | MoE |
| コンテキストウィンドウ | 512K | 128K |
| コアポジショニング | 長距離オープンドメインエージェント(旅行、結婚式、経営管理など、決まった答えがないタスク) | 汎用的な効率的な推論とコード生成 |
| 長期ミッション | 数時間から数日に及ぶ複雑なタスクに最適化されており、自己批判機能と動的メモリをサポートしています。 | 重点はコードと数学的推論に置かれており、長期的な未解決の課題は主要な専門分野ではありません。 |
| マルチモーダル | テキスト、画像、動画、音声の統合的な理解(MoE ViT + 高密度音声エンコーダ) | 主にテキストベースであり、マルチモーダル機能は比較的限られている。 |
| オープンソースライセンス | Apache-2.0重み付けとコードは完全にオープンソースです。 | オープンソースの重量はプロトコルによって比較的制限されている |
| 適用可能なシナリオ | パーソナルアシスタント、複雑なライフプランニング、エンドツーエンドのソフトウェア開発、ゲーム戦略 | コード生成、数学的問題解決、および軽量な推論タスク |
dots3-noteプレビューの応用シナリオ
-
スマートホームリノベーションコンサルタントユーザーは間取り図と家電の寸法をアップロードし、音声でニーズを説明します。モデルは自動的に空間の適応性を計算し、スタイルの例を検索し、カスタマイズされたリフォームプランのウェブページを作成し、現場での寸法測定をユーザーに促します。
-
インディーゲームブーストエージェントSlay the Spire IIのような戦略ゲームを攻略し、リアルタイムバトルに基づいた敵のメカニズムを学び、デッキ、ゴールド、ポーションを動的に管理し、長時間の試合で最適な総合的な意思決定を行いましょう。
-
ウェディングプランナー予算配分、会場選定、ゲストリスト管理からプロセススケジュール作成まで、このモデルは数週間にわたって進捗状況を継続的に追跡し、天候や人員調整などの予期せぬ変更に基づいて動的に計画を再調整します。
-
visionOSネイティブアプリケーション開発設計図に基づき、要件分析、SwiftUI+RealityKitによるコード記述、Xcodeプロジェクトの構築、そしてApple Vision Proアプリケーションのシミュレーター検証を単独で完了させ、空間アプリケーションをゼロから完成・納品しました。
-
クロスモーダル深層研究アシスタント学術的または商業的なテーマに関して、このシステムは複数回の検索を自律的に実行し、PDFチャートを読み込み、ビデオ資料を視聴して複数の情報源を統合し、構造化された調査レポートを作成します。また、矛盾が見つかった場合には、自己批判を開始して結論を修正します。