データセット蒸留とは? - AI百科事典
データセット蒸留(データセット圧縮とも呼ばれる)は、大規模なデータセットから重要な情報を抽出し、より小さなデータセットを作成するために設計された技術です。
データセット蒸留(データセット圧縮とも呼ばれる)は、大規模なデータセットから重要な情報を抽出し、より小さなデータセットを作成するために設計された技術です。
スケーリング法則は、モデルのサイズ(パラメータ数など)、トレーニングデータセットのサイズ、トレーニングに使用される計算リソースによってモデルのパフォーマンスがどのように変化するかを説明するものです。これは、モデルのパフォーマンスとこれらの要因との関係を反映しています。
コネクショニズム(リンク理論とも呼ばれる)は、認知科学と人工知能における理論的枠組みであり、脳内のニューロン間の相互接続をシミュレートすることによって認知プロセスを説明することを提唱している。この理論は、…
目的関数は、数理最適化問題における中心的な概念であり、目的と影響要因との間の関数関係を表します。簡単に言えば、目的関数とは、計算または最適化して達成しようとしている関数です。
スローパーセプションは、Step Multimodalチームが提唱した斬新な視覚認識概念です。段階的な分解とフローのアプローチにより、モデルは人間のように複雑な幾何学的形状をより詳細に認識することができます。実験では、...
ジャッジモデルは、他のモデルの出力品質を評価するために使用される補助モデルです。これらは「審判」として機能し、大規模言語モデル(LLM)の出力を評価し、スコアリングします。モデルは、入力された質問と...に基づいて評価されます。
エージェント型RAGは、AIエージェントと検索拡張生成(RAG)システムを組み合わせた手法です。エージェントフレームワークを導入することで、質問応答に革命をもたらします。これは、大規模モデルのみに依存する手法とは異なります。
前方推論は、人工知能分野における手法の一つで、推論エンジンを用いて自動推論を行う。これはデータ駆動型の推論戦略であり、既知の事実から出発し、一連のルールを適用することで新たな情報を導き出す。
識別モデルは機械学習における重要なモデル群であり、主に分類や回帰タスクに用いられます。その主な目的は、入力変数xと出力変数yの間のマッピング関係、すなわち条件付き確率分布P(y|x)を学習することです。(これは生成モデルとは対照的です。)
NSA(Native Sparse Attention)は、DeepSeekが提案した新しいスパースアテンションメカニズムであり、アルゴリズムの革新とハードウェアの最適化によって長文テキストモデリングの効率を向上させます。その核心は、粗粒度と組み合わせた動的な階層的スパース戦略にあります。
Chain-of-Draft (CoD) は、Zoom の研究チームが提案した新しい AI 推論パラダイムです。人間の簡潔な思考プロセスを模倣することで、推論効率を向上させ、コストを削減します。このアプローチは、人間が下書きや文書に頼る習慣にヒントを得ています。
モデルコンテキストプロトコル(MCP)は、大規模言語モデル(LLM)と外部ツールおよびデータソース間のシームレスな通信を可能にするオープンプロトコルです。統一されたプロトコルを通じて、さまざまなデータソースとのインターフェースを実現します。
Vibe Codingは、OpenAIの共同創設者であるAndrej Karpathy氏によって提唱された新しいプログラミングパラダイムです。人工知能、特に大規模言語モデル(LLM)に基づいており、開発者は自然言語を使用して要件を記述し、AIがそれを処理します。
ANP(Agent Network Protocol)はオープンソースのインテリジェントエージェント通信プロトコルであり、インテリジェントエージェントインターネット時代のHTTPとなり、数十億のインテリジェントエージェントのためのオープンで安全かつ効率的な協調ネットワークを構築します。データサイロを解消し…
モデルコンテキストプロトコル(MCP)は、Anthropic社が開発したオープンプロトコルであり、大規模言語モデル(LLM)と外部データソースおよびツール間の通信を標準化します。統一されたインターフェースを提供することで、LLMの柔軟性を高めます。
Harmony Agent Framework (HMAF) は、ファーウェイが自社開発の HarmonyOS オペレーティングシステム向けに開発したコア人工知能フレームワークです。その目的は、以下のようなシステムを構築することです。
コンテキストエンジニアリングとは、適切な情報とツールを正しい形式で提供する動的なシステムを構築し、大規模言語モデル(LLM)がタスクを適切に実行できるようにすることです。これは、LLMがタスクを実行するために必要な情報とツールを確実に取得できるようにするための体系的なアプローチです。
エージェントガイダンス言語(AGL)は、標準作業手順書(SOP)から着想を得た構造化された自然言語プログラミング手法であり、ビジネスエキスパートが自然言語を使用してエージェント向けの「実行可能な指示」を作成できるようにするものです。
AP2(Agent Payments Protocol)は、ユーザー、加盟店、決済プロバイダー向けに、プラットフォームを横断したエージェント決済を可能にする、安全で拡張性があり、決済方法に依存しないフレームワークを提供するオープンプロトコルです。
エージェントコンテキストエンジニアリング(ACE)は、スタンフォード大学、SambaNova Systems、カリフォルニア大学バークレー校の研究者によって提案された革新的なフレームワークです。これは、入力情報(つまり「コンテキスト」)を動的に最適化することで機能します。
ネスト学習は、Googleが提唱した新しい機械学習パラダイムであり、従来の大規模言語モデルが継続学習中に直面する「壊滅的忘却」問題に対処するものです。ネスト学習は、複雑な機械学習モデルを統合し…