AB
AiBoss
ニュース

AWS 博客:用 NVIDIA NeMo Agent Toolkit 与 Amazon S3 Vectors 构建智能体记忆

AWS 机器学习博客发布技术文章,介绍如何将 Amazon S3 Vectors 作为 NVIDIA NeMo Agent Toolkit 的持久化记忆后端,并在 Amazon EKS 上部署,以多智能体投资研究为例。

核心事实

AWS 机器学习博客发布了一篇技术文章,介绍如何把 Amazon S3 Vectors 用作 NVIDIA NeMo Agent Toolkit(NAT)的持久化记忆层,并部署在 Amazon Elastic Kubernetes Service(Amazon EKS)上。文章以多智能体投资研究为示例场景,说明 NAT 记忆子系统的工作方式,以及如何实现一个基于 Amazon S3 Vectors 的自定义记忆提供方(memory provider)。

据文章描述,NAT 是一个开源框架,用于构建、剖析和优化 AI 智能体,且不绑定特定框架,可与 Strands Agents、LangChain、LlamaIndex、CrewAI 及自定义实现配合使用。其记忆模块通过实现插件接口来扩展后端,核心组件包括 MemoryEditor 抽象接口(定义 add_items()、search()、remove_items() 三个方法)、MemoryItem 数据模型、MemoryBaseConfig 配置基类,以及自动记忆包装器 auto_memory_agent。文章称 NAT 目前内置的记忆提供方有 Mem0、MemMachine、Redis 和 Zep。

背景与影响

文章认为,对于需要弹性向量存储、强写入一致性和低成本扩展的生产级多智能体系统,基于 Amazon S3 Vectors 的自定义提供方更合适。文中列出的对应能力包括:向量相似度检索(支持 cosine、euclidean 等距离度量)、可按元数据过滤的查询、写入后立即可见的强一致性、单索引最高 20 亿向量的扩展能力,以及按存储、写入和查询计费而无空闲计算成本。访问控制方面提到使用 AWS Identity and Access Management(IAM)策略,并可按租户建立索引以实现隔离。

实现路径被概括为三步:创建 Amazon S3 Vectors 基础设施、实现自定义 MemoryEditor 插件、配置智能体工作流。示例代码创建向量桶与索引,索引维度为 1024,以匹配 Amazon Titan Text Embeddings V2 的输出,并将 content 字段设为不可过滤元数据。

限制与来源

文章列出的前置条件包括:具备创建 Amazon S3 Vectors 资源和 Amazon EKS 集群权限的 AWS 账户、已有的 Amazon EKS 集群、已安装的 NVIDIA NeMo Agent Toolkit(文中称测试版本为 1.6)、Python 3.11 或 3.12、一个用于生成向量表示的嵌入模型,以及 kubectl 和 Docker。以上为文章自述内容,具体版本、区域可用性、配额与计费方式请以 AWS 与 NVIDIA 官方当前信息为准。本文未对性能、成本或效果作独立验证。

来源:AWS 机器学习博客,作者 Venkata Sistla,2026 年 10 月 1 日。