AWS 提出 Trust in Depth：让 AI 智能体获得更多自主权而不失控

AWS 提出面向 AI 智能体的「Trust in Depth」框架

AWS 在官方博客发布文章《Trust in Depth: Giving agents more autonomy without losing control》，由 Shawn Bice 署名。文章提出，企业希望 AI 智能体承担更多工作，却难以信任其每次都能正确执行；而让人类逐项审批的做法在规模扩大后会带来审查疲劳，反而漏掉真正重要的环节。作者主张的思路是：当智能体的行为可以被验证时，就让它自主行动，把人的判断保留给真正需要判断的决策。

背景：从 Defense in Depth 到 Trust in Depth

文章称，内容过滤、测试与监控各有作用，但单独任何一项都无法保证智能体下一次运行仍然行为正确。AWS 将业界沿用二十年的「纵深防御」（Defense in Depth）思路用于新目的：前者限制出错的范围，后者扩大可以安全放行的范围，AWS 称之为 Trust in Depth。文章围绕智能体生命周期的四个问题展开：运行前的范围界定（Scope）、部署时的身份确认（Know）、运行中的边界约束（Bound）、每次运行后的可追溯与复盘（Observe）。其中可精确表述的规则可由自动推理（automated reasoning）在全部可能路径上验证，而「保持友好语气」这类依赖情境的要求则无法证明，需要限制权限并交由人判断。文章提到 AWS 已在生产环境使用自动推理十余年，涉及 IAM、AWS Nitro Hypervisor、Amazon S3 Block Public Access 和 VPC Reachability Analyzer 等系统，并称 IAM 每秒处理超过 21 亿次请求。文中还提到 Kiro、Strands 以及 Amazon Bedrock AgentCore 的 Policies 等产品能力。

限制与来源

本文内容来自 AWS 官方博客，属于厂商观点与产品介绍，其中涉及的产品功能、可用范围与定价请以 AWS 官网当前信息为准。文中未给出独立的第三方评测数据或用户反馈，相关效果与适用性尚未获独立验证。