扩散策略（Diffusion Policy）是 arXiv 论文《Diffusion Policy: Visuomotor Policy Learning via Action Diffusion》提出的一种机器人视觉运动策略学习方式：把策略表示为条件去噪扩散过程，从噪声出发逐步生成动作序列。论文称其在 4 个机器人操作基准的 12 项任务上平均优于当时的先进方法 46.9%，并针对多模态动作分布、高维动作空间与训练稳定性给出分析。
MCP 服务器是依照 Model Context Protocol 规范，把文件系统、数据库、代码托管、团队沟通、日程等能力以标准化接口暴露给 AI 应用的程序。它通过工具、资源、提示模板三类构件，让模型在用户可控的前提下调用外部操作与读取上下文。
因果中介分析（Causal Mediation Analysis）是在潜在结果框架下，把处理对结果的总效应拆分为直接效应与经由中介变量传导的中介效应的方法。arXiv 论文 2306.07918 指出，多数既有方法假设中介变量是一维且可观测的，并提出基于可识别变分自编码器（iVAE）的框架，以处理多维且只能间接观测的中介变量。
稀疏探针（Sparse Probing）是一种可解释性技术：在大语言模型的内部激活上训练 k-稀疏线性分类器，用极少数神经元预测输入中某个高层特征是否存在。它把「模型内部如何表示概念」转化为可检验的稀疏性问题，并可通过改变 k 值研究表示稀疏度随模型规模的变化。
RealToxicityPrompts 是一个由英文句子开头构成的提示语（prompt）语料库，每条提示语都配有毒性分类器给出的多维毒性评分，用于评估自回归语言模型在给定上下文后生成有毒内容的倾向。它由 Gehman 等人在 2020 年的论文中提出，并被收录进 TensorFlow Datasets 目录。
对抗偏好优化（APO）是论文《Adversarial Preference Optimization: Enhancing Your Alignment via RM-LLM Game》提出的一种对齐训练框架：让大语言模型与奖励模型以极小极大博弈的方式交替更新，使奖励模型无需额外人工标注即可跟上模型生成分布的变化，从而缓解偏好数据与模型输出之间的分布差距。
自回归图像生成（Autoregressive Image Generation）是把图像表示成一段有序的离散或连续单元序列，再用自回归模型逐个预测下一个单元、从而合成整幅图像的生成方法。它把图像生成问题转化为序列建模问题，借用语言模型式的「预测下一个」范式来生成视觉内容。
离散扩散语言模型（dLLM）是一类不按从左到右逐词生成、而是以多词并行解码和去噪方式产出文本的生成模型。据 arXiv 综述论文《Discrete Diffusion in Large Language and Multimodal Models: A Survey》的梳理，这类模型与自回归模型并列，可提供并行生成、细粒度输出控制和动态感知等能力。
残差量化（RQ）是一种多码本向量量化方法：它用多个码本逐级量化上一步的量化误差，把每个向量表示成一串离散码字。本文说明它要解决的问题、逐级逼近的工作机制、RQ-VAE 与 QINCo 两个真实用例，以及它的适用边界与代价。
ColBERTv2 是 NAACL 2022 论文提出的神经信息检索器，它把激进的残差压缩机制与去噪监督策略结合起来，在保持后期交互（late interaction）逐 token 多向量表示效果的同时，把这类模型的空间占用降低 6–10 倍。
量化感知训练（QAT）是在预训练之后追加一个训练阶段、让模型在前向路径中直接处理量化数值的技术，用于在低精度推理格式下恢复精度。NVIDIA 开发者博客将其与量化感知蒸馏（QAD）并列，视为训练后量化（PTQ）校准不足时的补充手段；arXiv 论文则讨论了全精度阶段与 QAT 阶段之间的算力分配问题。
仅权重量化是模型量化的一种做法，只把模型权重从高精度浮点格式压缩到低精度格式，而激活值保持原精度。NVIDIA 开发者博客指出，权重、激活值与 KV 缓存是 Transformer 模型中可被量化的三个关键要素，仅权重量化针对其中的权重部分，主要用来降低显存占用与模型体积。
梯度中心化（Gradient Centralization，GC）是一种直接作用于梯度的深度神经网络优化技术，由论文《Gradient Centralization: A New Optimization Technique for Deep Neural Networks》提出。它把梯度向量中心化为零均值，可嵌入现有基于梯度的优化器，论文称其能改善泛化性能并提升训练的稳定性与效率。
随机深度（Stochastic Depth）是 Gao Huang 等人在 2016 年论文《Deep Networks with Stochastic Depth》中提出的一种训练方法：训练时对每个小批量随机丢弃一部分层并用恒等函数旁路，测试时使用完整深度的网络。它针对极深卷积网络训练中梯度消失、前向信息衰减和训练耗时的问题，论文报告该方法能缩短训练时间并在多数评测数据集上改善测试误差。
硬注意力（Hard Attention）是一类注意力机制：它不为全部输入位置分配连续权重，而是为每个输出位置选取一个或一小部分输入位置参与计算。与软注意力对全序列加权求和不同，硬注意力把选择变成离散决策，因而在长序列上更聚焦，但也带来不可微、难训练的问题。相关研究既把它当作可训练的结构组件，也把它当作分析 Transformer 表达能力的理论模型。
差分Transformer（Differential Transformer，简称 Diff Transformer）是一种在 Transformer 注意力机制上做改动的模型结构：它把注意力分数计算为两张独立 softmax 注意力图之差，用相减的方式抵消噪声、放大对相关上下文的关注。该结构由论文《Differential Transformer》提出，论文称其在语言建模、长上下文建模、关键信息检索、幻觉缓解与上下文学习等场景中相较 Transformer 具有优势。
gRPC 是一种语言无关、高性能的远程过程调用（RPC）框架。它采用契约优先的开发方式，默认使用 Protocol Buffers 定义服务与消息，并支持客户端、服务端与双向流式调用。本文依据 Microsoft Learn 的官方文档，介绍它的定义、出现背景、工作机制、典型用法与适用边界。
概念激活向量（Concept Activation Vectors，CAV）是一种可解释性工具，它把神经网络隐藏层的激活看作高维空间中的方向，用人类可理解的概念（如「条纹」）在该空间中构造方向向量，从而量化某个概念对模型分类结果的影响程度。该概念由 Kim 等人在论文《Interpretability Beyond Feature Attribution: Quantitative Testing with Concept Activation Vectors (TCAV)》中提出，CAV 是其配套技术 TCAV 的基础构件。
探针分类器（Probing Classifier）是一种用于解释和分析自然语言处理深度神经网络的方法：它训练一个分类器，从模型内部表示中预测某种语言学属性，以此考察该表示中是否含有这类信息。Yonatan Belinkov 在 Computational Linguistics 发表的综述性短文系统梳理了这一框架的承诺、缺陷与进展，并指出该方法存在多方面的方法论局限。
提示自动迭代精炼（PAIR）是论文《Jailbreaking Black Box Large Language Models in Twenty Queries》提出的算法，借助一个攻击方大语言模型，在只有黑盒访问权限的条件下自动生成并迭代改写语义越狱提示，从而诱导目标模型绕过自身安全护栏。该论文称，PAIR 通常只需不到二十次查询即可产出一次越狱，并在 GPT-3.5/4、Vicuna、Gemini 等开源与闭源模型上取得有竞争力的成功率与迁移性。
N选优越狱（Best-of-N Jailbreaking，BoN）是论文 arXiv:2412.03556 提出的一种黑盒越狱算法：它对同一提示反复施加随机打乱、大小写变换等增广，生成大量变体并逐一采样，直到模型输出有害内容。该论文报告，在采样 10,000 条增广提示时，对 GPT-4o 的攻击成功率为 89%，对 Claude 3.5 Sonnet 为 78%，并可扩展到视觉与音频语言模型。
自举语言-图像预训练（Bootstrapping Language-Image Pre-training，BLIP）是一类视觉-语言预训练（Vision-Language Pre-training，VLP）框架，由 arXiv 论文 BLIP 提出，并在后续论文 BLIP-2 中扩展。它的核心是用模型自身生成并筛选训练信号（自举），以更充分地利用含噪的网络图文对，或用冻结的图像编码器与大语言模型降低预训练成本。
视觉指令微调是一种把「指令微调」从纯文本扩展到图像—语言多模态场景的训练方法：用机器生成的多模态指令跟随数据训练模型，使其能按自然语言指令理解图像并作答。该方法由 Haotian Liu 等人在论文《Visual Instruction Tuning》中提出，并由此得到 LLaVA 模型；后续工作《Improved Baselines with Visual Instruction Tuning》进一步给出了更强的基线配置。
倒数排名融合（Reciprocal Rank Fusion，RRF）是一种把多路已排序检索结果合并成单一结果集的算法。它不看各路查询的原始分数，只按文档在各自列表中的名次计算 1/(rank + k) 并求和，从而避免不同打分体系量纲不一致的问题。微软 Azure AI Search 官方文档说明，该服务在混合查询与多向量查询并行执行时使用 RRF 完成结果融合。