AB
AiBoss
Wiki

什么是 NIST AI 风险管理框架(NIST AI Risk Management Framework)?

NIST AI 风险管理框架(AI RMF)是美国国家标准与技术研究院(NIST)发布的一套自愿性框架,用于把可信性考量纳入 AI 产品、服务与系统的设计、开发、使用和评估,以更好地管理 AI 对个人、组织和社会带来的风险。

NIST AI 风险管理框架(NIST AI Risk Management Framework,简称 AI RMF)是美国国家标准与技术研究院(NIST)下属信息技术实验室(ITL)AI 项目牵头、与私营和公共部门合作开发的一套框架,用于更好地管理人工智能对个人、组织和社会造成的风险。据 NIST 官方文档,该框架供自愿使用,目标是提升各方在 AI 产品、服务与系统的设计、开发、使用和评估中纳入可信性(trustworthiness)考量的能力。它要解决的问题是:AI 风险横跨技术、组织与社会多个层面,缺乏一套各方都能对齐的共同语言与流程,导致风险识别、沟通与处置难以协同。

为什么重要

在 AI RMF 出现之前,组织面对 AI 风险时往往各自为政:有的只做技术层面的模型测试,有的只做合规审查,有的把风险管理等同于上线前的一次性评估。这种做法的痛点在于缺少可对齐的参照系——不同团队对「风险」的定义、粒度和处置优先级不一致,跨组织协作时难以互相理解,也难以把可信性要求贯穿到 AI 全生命周期。

NIST 官方文档指出,该框架的定位是「建立在他人 AI 风险管理努力之上、与之对齐并予以支持」,而不是另起一套互斥体系。这一点对实际落地很关键:它意味着组织已有的治理结构、合规流程和内部规范可以被映射进来,而不必推倒重来。同时,框架的开发过程本身被 NIST 描述为共识驱动、开放、透明和协作式的,包括信息征询(Request for Information)、多轮公开征求意见的草案、多场研讨会以及其他输入机会,这使其具备较广的利益相关方基础。

此外,NIST 于 2023 年 3 月 30 日启动了可信与负责任 AI 资源中心(Trustworthy and Responsible AI Resource Center),用于促进 AI RMF 的实施与国际对齐;其他组织如何基于并使用 AI RMF 的示例,可在该资源中心的使用案例页面找到。这说明框架的价值不仅在于文本本身,还在于围绕它形成的配套资源与实践社区。

工作机制

根据 NIST 官方文档,AI RMF 的核心做法可以概括为以下几个要点:

  • 自愿性定位:框架明确「intended for voluntary use」,即供自愿采用,不构成强制性合规要求。组织可以按自身目标与优先级决定采用的范围和深度。
  • 覆盖 AI 全生命周期:框架面向 AI 产品、服务与系统的设计、开发、使用和评估四个环节,强调可信性考量应贯穿其中,而非只在某一节点集中处理。
  • 以可信性为组织原则:框架的目标是提升把可信性考量纳入 AI 实践的能力,使风险讨论围绕可信性这一共同维度展开。
  • 与既有努力对齐:框架被设计为建立在他人 AI 风险管理努力之上、与之对齐并予以支持,便于组织把现有治理与合规工作映射进来。
  • 配套工具链:NIST 同时发布了配套的 AI RMF Playbook(操作手册),以及 AI RMF Roadmap(路线图)、AI RMF Crosswalk(对照表)和多种 Perspectives(视角文件),用于支持从原则到具体实践的转化。
  • 面向特定领域的 Profile:框架体系通过「Profile(剖面)」扩展至具体场景,针对特定领域或技术给出更聚焦的风险管理指引。

需要说明的是,上述要点描述的是 NIST 官方文档对框架定位与配套材料的说明;框架正文中的具体条款、步骤与分类,应以 NIST 发布的 AI RMF 1.0 原文为准。

典型例子

素材中出现的、与 AI RMF 直接相关的真实产物与事件包括:

  • AI RMF 1.0:于 2023 年 1 月 26 日发布,是框架的正式版本。NIST 官方文档同时说明,AI RMF 1.0 正作为白宫 AI 行动计划(White House AI Action Plan)的一部分进行修订。
  • NIST AI RMF Playbook:与框架配套发布的操作手册,用于支持框架的落地使用。
  • AI RMF Roadmap、AI RMF Crosswalk 与 Perspectives:NIST 一并发布的相关文件,分别对应路线规划、与其他框架的对照以及不同视角的解读。
  • NIST-AI-600-1《人工智能风险管理框架:生成式人工智能剖面》(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile):于 2024 年 7 月 26 日发布。据 NIST 官方文档,该剖面可帮助组织识别生成式 AI 带来的独特风险,并提出与组织目标和优先级最相匹配的生成式 AI 风险管理行动。
  • 关键基础设施可信 AI 剖面概念说明:2026 年 4 月 7 日,NIST 发布了关于「关键基础设施中的可信 AI」AI RMF Profile 的概念说明(concept note)。据官方文档,该剖面将引导关键基础设施运营者在采用 AI 赋能能力时考虑具体的风险管理实践。
  • 可信与负责任 AI 资源中心:2023 年 3 月 30 日启动,用于促进 AI RMF 的实施与国际对齐。
  • 框架的早期草案与征询文件:包括 2021 年 7 月 29 日的 AI RMF 信息征询、2021 年 10 月 15 日的 AI 风险分类草案(Draft - Taxonomy of AI Risk)与信息征询回复摘要、2021 年 12 月 13 日的概念文件、2022 年 3 月 17 日的初稿,以及 2022 年 8 月 18 日的第二版草案。
  • 译本:NIST 官方页面列出了 AI RMF 的阿拉伯语与日语译本。

边界与常见误解

第一,它不是强制性法规。NIST 官方文档明确该框架「intended for voluntary use」,即供自愿使用。把它理解为合规义务或认证标准,是对其性质的误读;采用与否、采用到什么程度,由组织自行决定。

第二,它不是一套可以直接照搬的技术方案。框架的定位是风险管理框架,配套的 Playbook、Roadmap、Crosswalk 等文件承担了向实践转化的角色。把框架文本当作操作手册,容易在落地时缺少具体动作。

第三,它不替代组织自身的风险判断。框架被描述为建立在他人 AI 风险管理努力之上、与之对齐并予以支持,这意味着它提供的是共同参照系,而非替组织作出风险取舍。具体风险的可接受程度、优先级排序,仍需结合组织自身目标与场景判断。

第四,版本处于变动之中。NIST 官方文档说明 AI RMF 1.0 正作为白宫 AI 行动计划的一部分进行修订,同时新的 Profile(如关键基础设施方向)仍在以概念说明的形式推进。引用框架内容时应注明所依据的版本与文件,避免把草案、概念说明与正式版本混为一谈。

第五,Profile 不等于通用框架。生成式 AI 剖面、关键基础设施剖面等针对特定技术或领域,其提出的风险与行动具有场景限定性,不宜直接外推为对所有 AI 系统的普遍结论。

参考资料