AB
AB
AiBoss

すべてのカテゴリ

project

self-llm - 中国の開発者向けに特別に設計されたオープンソースの大規模モデルチュートリアル

self-llm（Open Source Large Model Usage Guide）は、Datawhaleが中国の初心者向けに作成したオープンソースの大規模モデルチュートリアルです。Linuxプラットフォームをベースに、環境設定からモデルのデプロイと微調整まで、LLaMAを含む包括的なガイドを提供します。

セルフLLMとは何ですか？

self-llm（Open Source Large Model User Guide）は、Datawhaleが中国の初心者向けに作成したオープンソースの大規模モデルチュートリアルです。Linuxプラットフォームをベースとし、環境設定からモデルのデプロイ、微調整までを網羅した完全なガイドを提供し、LLaMAやChatGLMといった主要なモデルをカバーしています。このプロジェクトは、オープンソースの大規模モデルの利用プロセスを簡素化し、学生や研究者がすぐに使い始められるように支援します。チュートリアルでは、さまざまなレベルの学習者に適した、詳細なチュートリアル、微調整方法（LoRAやptuningなど）、およびさまざまなモデルの応用例を提供しています。このプロジェクトは、コミュニティの参加を奨励し、コンテンツを共同で改善し、オープンソースの大規模モデルの普及と応用を促進します。

self-llmの主な機能

  • 環境設定ガイドLinuxプラットフォームをベースとしたオープンソースの大規模モデル環境向けの設定ガイドを提供し、ユーザーがさまざまなモデルを実行するのに適した基本的な環境を構築できるよう支援します。
  • モデル展開チュートリアル本書では、コマンドライン呼び出しやオンラインデモの展開など、国内外における主要なオープンソースモデル（LLaMA、ChatGLM、InternLMなど）のローカル展開方法を網羅的に解説しています。
  • 微調整方法ガイド本書は、フルファインチューニング、LoRAファインチューニング、pチューニングといった効率的なファインチューニング手法に関する詳細なチュートリアルを提供し、ユーザーがニーズに応じてモデルをカスタマイズおよび最適化できるよう支援します。
  • アプリケーション開発ガイドLangChainなどのフレームワークを組み合わせることで、オープンソースの大規模モデルを実用的なアプリケーションに統合する方法や、ドメイン固有のプライベートドメインモデルを作成する方法をユーザーに案内します。
  • コミュニティの共同創造と支援チュートリアルコンテンツの改善や、オープンソースコミュニティのための協力的で支援的なシステムの構築のために、ユーザーの皆様には問題点の報告やコードのプルリクエストの投稿を推奨します。

self-LLMによってサポートされるモデル

  • GLM-4.1-Thinking
    • GLM-4.1V-Thinking vLLM デプロイメント呼び出し
    • GLM-4.1V - 思考型グラディオ展開
    • GLM-4.1V-Thinking LoRAの微調整とSwanLabによる映像記録
    • GLM-4.1V-Thinking Dockerイメージ
  • GLM-4.5-Air
    • GLM-4.5-Air vLLM展開呼び出し
    • GLM-4.5-Air EvalScope IQおよびEQ評価
    • GLM-4.5-Air LoRAの微調整
    • GLM-4.5-Air Ucloud Dockerイメージ
  • ERNIE-4.5
    • ERNIE-4.5-0.3B-PT LoRAの微調整とSwanLabによる可視化記録
    • ERNIE-4.5-0.3B-PT LoRA Docker イメージ
  • Hunyuan-A13B-Instruct
    • Hunyuan-A13B-Instructモデルアーキテクチャ分析
    • Hunyuan-A13B-Instruct SGLang デプロイメント呼び出し
    • Hunyuan-A13B-Instruct LoRA SwanLab ビジュアル微調整
    • Hunyuan-A13B-LoRA Docker イメージの指示
  • Qwen3
    • Qwen3モデル構造解析
    • Qwen3-8B vllmの展開と呼び出し
    • Qwen3-8B Windows LMStudioの展開と起動
    • Qwen3-8B Evalscope IQおよびEQアセスメント
    • Qwen3-8B LoRAの微調整とSwanLabによる映像記録
    • Qwen3-30B-A3Bの微調整とSwanLabによる映像記録
    • Qwen3 復号化を考える
    • Qwen3-8B の Docker イメージ
    • Qwen3-0.6B小型モデルの用途
    • Qwen3-1.7B 医療推論対話の微調整とSwanLabによる視覚記録
    • Qwen3-8B GRPOの微調整とSwanLabによる可視化
  • Kimi-VL-A3B
    • キミVL-A3B技術報告書の解釈
    • Kimi-VL-A3B-Thinking WebDemo（Webチャットアシスタント）の展開
  • Llama4
    • Llama4会話アシスタント
    • SpatialLM
    • SpatialLM 3D点群理解および物体検出モデルの展開
    • Hunyuan3D-2
    • Hunyuan3D-2シリーズモデル展開
    • Hunyuan3D-2シリーズモデルのコード呼び出し
    • Hunyuan3D-2シリーズモデルのグラデーション展開
    • Hunyuan3D-2シリーズモデルAPIサーバー
    • Hunyuan3D-2 Docker イメージ
  • Gemma3
    • Gemma-3-4b-it FastAPIのデプロイと呼び出し
    • Gemma-3-4b-it ollama + open-webui デプロイメント
    • Gemma-3-4b-it Evalscope IQおよびEQ評価
    • Gemma-3-4b-it LoRAの微調整
    • Gemma-3-4b-it Dockerイメージ
    • Gemma-3-4b-it GRPOの微調整とSwanLabによる可視化
  • DeepSeek-R1-Distill
    • DeepSeek-R1-Distill-Qwen-7B FastAPIのデプロイと呼び出し
    • DeepSeek-R1-Distill-Qwen-7B Langchain Access
    • DeepSeek-R1-Distill-Qwen-7B WebDemoの展開
    • DeepSeek-R1-Distill-Qwen-7B vLLMの展開と呼び出し
    • DeepSeek-R1-0528-Qwen3-8B-GRPOとSwanLab可視化
  • MiniCPM-o-2_6
    • MiniCPM-o-2.6 FastAPIのデプロイと呼び出し
    • MiniCPM-o-2.6 Webデモ展開
    • MiniCPM-o-2.6 マルチモーダル音声機能
    • MiniCPM-o-2.6 可視化: LaTeX OCR LoRA 微調整
  • InternLM3
    • InternLM3-8b-instruct FastAPI デプロイメント呼び出し
    • InternLM3-8b-instruct Langchain Access
    • InternLM3-8b-instruct WebDemo Deployment
    • InternLM3-8b-instruct LoRAの微調整
    • InternLM3-8b-instruct o1 ライクな推論チェーンの実装
  • phi4
    • Phi4 FastAPIのデプロイと呼び出し
    • phi4 Langchainとの統合
    • phi4 WebDemo デプロイメント
    • phi4 LoRAの微調整
    • phi4 LoRA NER ファインチューニングタスク: SwanLab ビジュアル記録
    • phi4 GRPOの微調整とSwanLabによる可視化
  • Qwen2.5-Coder
    • Qwen2.5-Coder-7B-Instruct FastApi デプロイメント呼び出し
    • Qwen2.5-Coder-7B-Instruct Langchain Access
    • Qwen2.5-Coder-7B-Instruct WebDemo のデプロイ
    • Qwen2.5-Coder-7B-Instruct vLLM デプロイメント
    • Qwen2.5-Coder-7B-Instruct LoRA 微調整
    • Qwen2.5-Coder-7B-Instruct LoRA 微調整 SwanLab ビジュアル記録バージョン
  • Qwen2-vl
    • Qwen2-vl-2B FastAPIのデプロイと呼び出し
    • Qwen2-vl-2B Webデモ展開
    • Qwen2-vl-2B vLLM デプロイメント
    • Qwen2-vl-2B LoRAの微調整
    • Qwen2-vl-2B LoRA 微調整 SwanLab ビジュアル記録バージョン
    • Qwen2-vl-2B LoRAの微調整に関する事例研究 – LaTeXOCR
  • Qwen2.5
    • Qwen2.5-7B-Instruct FastAPIデプロイメント呼び出し
    • Qwen2.5-7B-Instruct Langchain Access
    • Qwen2.5-7B-Instruct vLLM デプロイメント呼び出し
    • Qwen2.5-7B-Instruct WebDemo の展開
    • Qwen2.5-7B-Instruct LoRA 微調整
    • Qwen2.5-7B-Instruct o1 ライクな推論チェーンの実装
    • Qwen2.5-7B-Instruct LoRA 微調整 SwanLab ビジュアル記録バージョン
  • Apple OpenELM
    • OpenELM-3B-Instruct FastAPI デプロイメント呼び出し
    • OpenELM-3B-Instruct LoRAの微調整
  • Llama3_1-8B-Instruct
    • Llama3_1-8B-Instruct FastApi デプロイメント呼び出し
    • Llama3_1-8B-Instruct Langchain Access
    • Llama3_1-8B-Instruct WebDemo Deployment
    • Llama3_1-8B-Instruct LoRA 微調整
    • GGUFモデルを変換し、Ollamaを使用してローカルにデプロイします。
  • Gemma-2-9b-it
    • Gemma-2-9b-it FastAPIのデプロイと呼び出し
    • Gemma-2-9b-it Langchain アクセス
    • Gemma-2-9b-it Webデモ展開
    • Gemma-2-9b-it Peft LoRA 微調整
  • Yuan2.0
    • Yuan2.0-2B FastAPIのデプロイと呼び出し
    • 2.0～20億元 Langchain アクセス
    • Yuan2.0-2B WebDemoの展開
    • Yuan2.0-2B vLLMの展開と呼び出し
    • Yuan 2.0-2B LoRA 微調整
  • Yuan2.0-M32
    • Yuan2.0-M32 FastAPIのデプロイと呼び出し
    • Yuan2.0-M32 Langchain Access
    • Yuan2.0-M32 WebDemoの展開
  • DeepSeek-Coder-V2
    • DeepSeek-Coder-V2-Lite-Instruct FastApi のデプロイと呼び出し
    • DeepSeek-Coder-V2-L

自己LLMプロジェクトのアドレス

  • GitHubリポジトリ：https://github.com/datawhalechina/self-llm

自己LLMの応用シナリオ

  • 教育と学習本書は、環境設定からモデルの微調整まで、初心者向けに包括的なガイドを提供し、学生や開発者が大規模なオープンソースモデルの使い方を迅速に習得できるよう支援します。
  • エンタープライズアプリケーション開発これにより、企業はオープンソースモデルを自社のビジネスニーズに合わせてカスタマイズおよび微調整し、インテリジェントな顧客サービスや知識管理などの独自のアプリケーションを開発できるようになります。
  • 個人プロジェクト開発これは、個々の開発者がオープンソースの大規模モデルを使用して、インテリジェントな文章作成アシスタントやパーソナルインテリジェントアシスタントなどのプロジェクトを開発することを支援し、それによって個人の生産性を向上させる。
  • 研究とイノベーションこれは、オープンソースの大規模モデルの最適化、トレーニング方法の改善、その他の研究活動を支援するための実験プラットフォームを研究者に提供するものです。
戻る