微软推出 Guardian Agents，称前沿模型不可信任、AI 代理如同内部威胁

微软发布 Guardian Agents，把 AI 代理当作「内部威胁」来管

据 TechCrunch 报道，微软于 10 月 19 日（当地时间）推出多项面向企业的 AI 代理安全功能，其中最受关注的是 Guardian Agents。该功能用于监控企业正在使用的 AI 代理，属于微软今年 6 月推出的 Project Perception 产品线。Project Perception 最初包含三类代理：模拟攻击的「红队」、负责检测与评估漏洞的「蓝队」，以及负责修复的「绿队」。此外，微软还在 Microsoft Defender 中加入代理发现功能，据称可识别员工带入工作环境的多种代理，包括 Claude Code、Codex 和 OpenClaw。

背景：从「外部黑客」转向「自家代理」

报道指出，Project Perception 最初的设计假设是 AI 黑客来自企业外部，但微软 CEO 萨提亚·纳德拉近期反复警告，风险可能来自企业自己部署并付费使用的代理，类似行为失控的内部员工。微软安全业务负责人 Hayete Gallot 在发布时写道，「不幸的是，前沿模型无论来自哪里，都不可信任」，理由不是它们有恶意或容易被攻破，而是它们不可预测——它们被训练来完成任​​务，而非遵循组织规范或判断。纳德拉则主张把「智能的供给」与「对智能的授权」分开，由不受 AI 实验室控制的独立系统来监视代理。报道也提到其中的商业动机：微软希望企业从其购买代理安全产品，而非从模型供应商处购买；微软与 OpenAI、Anthropic 均有投资关系。报道还称，微软是英伟达新 Open Agent Safety Platform 的首批成员之一。

限制与来源

上述功能的具体可用范围、定价与地区支持情况，素材未予说明，请以微软官网当前信息为准。文中关于代理发现可识别类型数量的说法来自微软方面，尚未见独立验证。本文依据 TechCrunch 报道整理，相关表述与引语均转述自该报道。