什么是 NIST AI 风险管理框架(NIST AI Risk Management Framework)?
NIST AI 风险管理框架(AI RMF)是美国国家标准与技术研究院(NIST)发布的一套自愿性框架,用于把可信性考量纳入 AI 产品、服务与系统的设计、开发、使用和评估,以更好地管理 AI 对个人、组织和社会带来的风险。
NIST AI 风险管理框架(NIST AI Risk Management Framework,简称 AI RMF)是美国国家标准与技术研究院(NIST)下属信息技术实验室(ITL)AI 项目牵头、与私营和公共部门合作开发的一套框架,用于更好地管理人工智能对个人、组织和社会造成的风险。据 NIST 官方文档,该框架供自愿使用,目标是提升各方在 AI 产品、服务与系统的设计、开发、使用和评估中纳入可信性(trustworthiness)考量的能力。它要解决的问题是:AI 风险横跨技术、组织与社会多个层面,缺乏一套各方都能对齐的共同语言与流程,导致风险识别、沟通与处置难以协同。
为什么重要
在 AI RMF 出现之前,组织面对 AI 风险时往往各自为政:有的只做技术层面的模型测试,有的只做合规审查,有的把风险管理等同于上线前的一次性评估。这种做法的痛点在于缺少可对齐的参照系——不同团队对「风险」的定义、粒度和处置优先级不一致,跨组织协作时难以互相理解,也难以把可信性要求贯穿到 AI 全生命周期。
NIST 官方文档指出,该框架的定位是「建立在他人 AI 风险管理努力之上、与之对齐并予以支持」,而不是另起一套互斥体系。这一点对实际落地很关键:它意味着组织已有的治理结构、合规流程和内部规范可以被映射进来,而不必推倒重来。同时,框架的开发过程本身被 NIST 描述为共识驱动、开放、透明和协作式的,包括信息征询(Request for Information)、多轮公开征求意见的草案、多场研讨会以及其他输入机会,这使其具备较广的利益相关方基础。
此外,NIST 于 2023 年 3 月 30 日启动了可信与负责任 AI 资源中心(Trustworthy and Responsible AI Resource Center),用于促进 AI RMF 的实施与国际对齐;其他组织如何基于并使用 AI RMF 的示例,可在该资源中心的使用案例页面找到。这说明框架的价值不仅在于文本本身,还在于围绕它形成的配套资源与实践社区。
工作机制
根据 NIST 官方文档,AI RMF 的核心做法可以概括为以下几个要点:
- 自愿性定位:框架明确「intended for voluntary use」,即供自愿采用,不构成强制性合规要求。组织可以按自身目标与优先级决定采用的范围和深度。
- 覆盖 AI 全生命周期:框架面向 AI 产品、服务与系统的设计、开发、使用和评估四个环节,强调可信性考量应贯穿其中,而非只在某一节点集中处理。
- 以可信性为组织原则:框架的目标是提升把可信性考量纳入 AI 实践的能力,使风险讨论围绕可信性这一共同维度展开。
- 与既有努力对齐:框架被设计为建立在他人 AI 风险管理努力之上、与之对齐并予以支持,便于组织把现有治理与合规工作映射进来。
- 配套工具链:NIST 同时发布了配套的 AI RMF Playbook(操作手册),以及 AI RMF Roadmap(路线图)、AI RMF Crosswalk(对照表)和多种 Perspectives(视角文件),用于支持从原则到具体实践的转化。
- 面向特定领域的 Profile:框架体系通过「Profile(剖面)」扩展至具体场景,针对特定领域或技术给出更聚焦的风险管理指引。
需要说明的是,上述要点描述的是 NIST 官方文档对框架定位与配套材料的说明;框架正文中的具体条款、步骤与分类,应以 NIST 发布的 AI RMF 1.0 原文为准。
典型例子
素材中出现的、与 AI RMF 直接相关的真实产物与事件包括:
- AI RMF 1.0:于 2023 年 1 月 26 日发布,是框架的正式版本。NIST 官方文档同时说明,AI RMF 1.0 正作为白宫 AI 行动计划(White House AI Action Plan)的一部分进行修订。
- NIST AI RMF Playbook:与框架配套发布的操作手册,用于支持框架的落地使用。
- AI RMF Roadmap、AI RMF Crosswalk 与 Perspectives:NIST 一并发布的相关文件,分别对应路线规划、与其他框架的对照以及不同视角的解读。
- NIST-AI-600-1《人工智能风险管理框架:生成式人工智能剖面》(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile):于 2024 年 7 月 26 日发布。据 NIST 官方文档,该剖面可帮助组织识别生成式 AI 带来的独特风险,并提出与组织目标和优先级最相匹配的生成式 AI 风险管理行动。
- 关键基础设施可信 AI 剖面概念说明:2026 年 4 月 7 日,NIST 发布了关于「关键基础设施中的可信 AI」AI RMF Profile 的概念说明(concept note)。据官方文档,该剖面将引导关键基础设施运营者在采用 AI 赋能能力时考虑具体的风险管理实践。
- 可信与负责任 AI 资源中心:2023 年 3 月 30 日启动,用于促进 AI RMF 的实施与国际对齐。
- 框架的早期草案与征询文件:包括 2021 年 7 月 29 日的 AI RMF 信息征询、2021 年 10 月 15 日的 AI 风险分类草案(Draft - Taxonomy of AI Risk)与信息征询回复摘要、2021 年 12 月 13 日的概念文件、2022 年 3 月 17 日的初稿,以及 2022 年 8 月 18 日的第二版草案。
- 译本:NIST 官方页面列出了 AI RMF 的阿拉伯语与日语译本。
边界与常见误解
第一,它不是强制性法规。NIST 官方文档明确该框架「intended for voluntary use」,即供自愿使用。把它理解为合规义务或认证标准,是对其性质的误读;采用与否、采用到什么程度,由组织自行决定。
第二,它不是一套可以直接照搬的技术方案。框架的定位是风险管理框架,配套的 Playbook、Roadmap、Crosswalk 等文件承担了向实践转化的角色。把框架文本当作操作手册,容易在落地时缺少具体动作。
第三,它不替代组织自身的风险判断。框架被描述为建立在他人 AI 风险管理努力之上、与之对齐并予以支持,这意味着它提供的是共同参照系,而非替组织作出风险取舍。具体风险的可接受程度、优先级排序,仍需结合组织自身目标与场景判断。
第四,版本处于变动之中。NIST 官方文档说明 AI RMF 1.0 正作为白宫 AI 行动计划的一部分进行修订,同时新的 Profile(如关键基础设施方向)仍在以概念说明的形式推进。引用框架内容时应注明所依据的版本与文件,避免把草案、概念说明与正式版本混为一谈。
第五,Profile 不等于通用框架。生成式 AI 剖面、关键基础设施剖面等针对特定技术或领域,其提出的风险与行动具有场景限定性,不宜直接外推为对所有 AI 系统的普遍结论。