project
Orchardは、Microsoft Researchが開発したオープンソースのエージェント型AIモデリングフレームワークです。
Orchardは、Microsoft Researchが開発したオープンソースのエージェント型AIモデリングフレームワークです。その中核となるのはKubernetesベースのOrchard Environmentサービスで、データ抽出や強化学習の展開など、ドメインを跨いだサンドボックスの再利用をサポートしています。
オーチャードとは何ですか?
Orchardは、Microsoft Researchが開発したオープンソースのエージェント型AIモデリングフレームワークです。その中核となるのはKubernetesベースのOrchard Env環境サービスで、データ抽出、強化学習の展開、評価のためのサンドボックスのドメイン横断的な再利用をサポートしています。このフレームワークは、ソフトウェアエンジニアリング、ブラウザナビゲーション、パーソナルアシスタントという3つの主要なシナリオに対応しており、トレーニングデータと評価手法をオープンソースとして公開しています。
果樹園の主な機能
- ドメイン横断型統合環境サービス: Orchard Envは、サンドボックスのライフサイクル管理、コマンド実行、ファイルI/O、ネットワークポリシー、およびREST APIを提供し、コード、Web、デスクトップ、モバイル、および生産性ワークフローをサポートする単一のインフラストラクチャを提供します。
- 3つの主要分野におけるトレーニング式: Orchard-SWEはコード修復に特化し、Orchard-GUIはウェブページの視覚的なナビゲーションを処理し、Orchard-Clawはメールやカレンダーなどの日常的な生産性タスクに特化しており、これらすべてが完全なSFT + RLトレーニングパイプラインを提供します。
- 本格的なハーネストレーニング: Codex、OpenClaw、ZeroClawなどの実世界の展開ハーネス内で直接エンドツーエンドのトレーニングと評価をサポートし、トレーニング環境と展開環境の不一致を解消します。
- オープンソースのデータセットと評価プロトコル: 107,000件のSWE軌跡と3,070件のGUIマルチモーダル展開データ、および対応するベンチマークと再現可能なレシピを公開します。
オーチャードの技術原則
- Kubernetesネイティブ環境レイヤー: Orchard Envはスタンドアロンサービスとして動作し、コンテナオーケストレーションを通じて数千もの独立したサンドボックスを並列に作成・削除できます。コマンド実行の平均レイテンシはわずか0.28秒です。自動スケーリングとRedis分散ロックをサポートしています。
- Credit-Assignment SFT: ソフトウェアエンジニアリングの分野では、部分的に失敗した軌跡を破棄するのではなく、有効な断片から監視信号を抽出して、利用可能なトレーニングデータの量を最大化する。
- バランスの取れた適応型ロールアウト + 高密度ボーナス: 強化学習における疎なフィードバックの問題に対処するため、疎な成功シグナルを捉えるためにバランスのとれた適応型ロールアウトが採用され、中間ステップに密なガイダンスを提供するために、オンポリシー蒸留とルールベースのプロセス報酬モデルが導入される。
- 価値モデルの再編成: 20件の過去の実験の展開軌跡を用いて、4Bパラメータ値モデルを学習させた。推論段階では、複数の候補解を評価し、最適な解を選択した。これにより、Orchard-SWEは69.7%から73.0%に向上した。
- ハーネスに依存しないプロキシ履歴: 軽量プロキシは、ハーネス自身のモデル呼び出しを記録し、それらをトレーニングサンプルに再構築することで、環境イメージを変更することなく、あらゆる強化学習コードベースがあらゆるハーネスと連携できるようにします。
WeChatでフォローして「オープンソース「、参加するAIオープンソースプロジェクトに関するディスカッショングループ
Orchardの使い方
- SDKをインストールする: 埋め込む
pip install -e "orchard_env[dev]"Python SDKをインストールして設定してください。SANDBOX_BASE_URLそしてSANDBOX_API_KEY環境変数。 - サンドボックスを素早く起動する: 使用
SandboxClientコンテキストマネージャは、サンドボックスを作成し、コマンドを実行します。同期モードと非同期モード、ファイルの読み書き、gitパッチの適用、PTYセッションをサポートします。 - オーケストレーターをデプロイする: マルチレプリカオーケストレーターは、Azure AKSが提供する4つのスクリプト(プロビジョニング、ビルド、デプロイ、スモークテスト)を使用することで約20分でデプロイでき、Azure以外のクラスターもサポートしています。
- トレーニングレシピを実行します。 GitHubリポジトリを参照してください
trainer/slime/このドキュメントでは、Orchard Env 上で Orchard-SWE、Orchard-GUI、または Orchard-Claw を実行するための SFT + RL トレーニング プロセス全体について説明します。
オーチャードの主な利点
- 小型モデルは大型モデルの性能を近似的に再現する。 Orchard-SWEは、約30億のアクティブパラメータを使用してSWE-bench Verifiedで73.0%のスコアを達成し、10倍以上のパラメータ数を持つ最先端システムに匹敵するスコアを記録しました。Orchard-GUIは、40億のパラメータを使用して3つの主要なWebベンチマークで平均68.4%のスコアを達成し、OpenAI CUAおよびGemini CUAに匹敵するスコアを記録しました。
- コストが大幅に削減されます。 E2BやDaytonaなどのマネージドサンドボックスサービスと比較すると、Orchard Envのオンデマンドコストはスポットインスタンスの約0.47倍であるのに対し、スポットインスタンスのコストはわずか0.10倍であり、約10倍の価格差がある。
- Harness全体にわたる強力な一般化能力: 同じ環境レイヤーは、ReACT、ZeroClaw、OpenClaw、Codexなど、複数のハーネスをサポートしています。Orchard-ClawのZeroClaw環境下でのパス率(3回試行)は、59.6%から73.9%に向上しました。
- トレーニングデータは効率的です。 Orchard-GUIは、わずか400件の蒸留デモと2,200件のオープンタスクで、最も強力なオープンソースWebエージェントのレベルを達成しました。これは、少量のデータと適切な環境があれば、高性能モデルをトレーニングできることを証明しています。
オーチャードのプロジェクト住所
- プロジェクト公式サイト:https://www.microsoft.com/en-us/research/blog/orchard-an-open-framework-for-scalable-agentic-ai/
- GitHubリポジトリ:https://github.com/microsoft/Orchard
- ハギングフェイスモデルライブラリ:https://huggingface.co/datasets/microsoft/Orchard
- arXiv技術論文:https://arxiv.org/pdf/2605.15040
オーチャードの類似製品の比較
| 寸法 | Orchard | OpenHands |
|---|---|---|
| 位置 | マイクロソフトのオープンソースのクロスドメイン・エージェントモデリングフレームワークは、コード、ウェブページ、生産性という3つの主要なシナリオを網羅しています。 | オープンソースのコミュニティ主導型ソフトウェアエンジニアリングエージェント。コードベースの修正と開発タスクに重点を置いています。 |
| 環境レイヤー | 私たちは、Kubernetesネイティブな汎用環境サービス(Orchard Env)を独自開発し、単一のインフラストラクチャを複数のドメインで再利用できるようにしました。 | Dockerコンテナ環境に依存し、コードタスクに合わせてカスタマイズされているため、Webやデスクトップ環境に直接移行するのは困難です。 |
| トレーニング能力 | これには、SFT + RLの完全なトレーニングパイプラインが含まれており、CodexやOpenClawなどの実世界のハーネス内での直接トレーニングをサポートします。 | これは主に推論と実行のフレームワークを提供するものであり、トレーニングパイプラインは別途構築する必要があり、通常は簡略化された環境で実行されます。 |
| データオープンソース | オープンソース:107,000件のSWE軌跡、3,070件のGUIマルチモーダル展開、および完全な評価プロトコル。 | オープンソースコードと一部の評価結果は公開されているが、大規模な学習軌跡データセットは完全には公開されていない。 |
| モデル効率 | 3B~35Bのアクティブパラメータを使用すると、SWE-benchで73.0%のスコアを達成でき、これは10倍のパラメータを持つ最先端モデルのスコアに近い値です。 | 同様のSWEベンチマークスコアは、通常、70BレベルのモデルまたはGPT-4などの商用APIを使用した場合にのみ達成されます。 |
| コスト構造 | セルフホスト型のサンドボックスは、商用サービスの約10%~50%のコストで済み、Spotインスタンスをサポートすることでトレーニングのオーバーヘッドを大幅に削減できます。 | 主にクラウドサーバーまたは商用APIに依存しているため、コストはモデルのサイズと呼び出し量に比例して増加します。 |
| ハーネスサポート | ReACT、ZeroClaw、OpenClaw、Codexなど、複数のハーネス間のシームレスな切り替えをネイティブにサポートしています。 | この設計は主に専用ハーネスを中心に展開されており、外部ハーネスに切り替えるには追加の調整が必要となる。 |
Orchardの応用シナリオ
- 自動化されたソフトウェアエンジニアリング: これにより、ユーザーは実際のコードベースにおいて、バグの診断、テストの作成、パッチの生成、検証を独自に行うことができるため、オープンソースプロジェクトの保守や企業内部のコードレビューに適しています。
- インテリジェントなウェブページナビゲーション: チケット予約、ショッピング、情報検索といったオープン領域のタスクを完了するための、視覚理解に基づく自動ブラウザ操作は、RPAの代替手段となり得る。
- パーソナル生産性アシスタント: メール、カレンダー、ドキュメントなどのツールを横断して、会議の自動スケジュール設定、受信トレイの整理、レポートの生成といった複雑なワークフローを実行します。
- エージェント研究インフラストラクチャ: これは、学術研究チームと産業界の研究チームに、再現可能で低コストなエージェントのトレーニングおよび評価プラットフォームを提供し、オープンソースのエージェント型AIエコシステムの開発を加速させる。
- ドメイン間エージェント機能移行: 統一された環境レイヤーを使用して、コード、ウェブページ、デスクトップ操作全体にわたるスキル移転と累積的な学習を探求します。