AB
AiBoss站
快讯

Pathway 在 SageMaker HyperPod 上开发类脑架构 BDH

AWS 博客介绍 Pathway 公司基于 Amazon SageMaker HyperPod 开发类脑架构 BDH(Dragon Hatchling)。该架构在潜在空间进行推理,采用 Hebbian 学习与稀疏局部交互,旨在克服 Transformer 在训练与推理中的局限,并宣称以 1.5 亿参数模型在 ARC-AGI-1 上实现成本效率新突破。

核心事实

AWS 官方博客于 2026 年 9 月 8 日发布文章,介绍 Pathway 公司基于 Amazon SageMaker HyperPod 开发其类脑架构 BDH(Dragon Hatchling)。据文章介绍,BDH 是一种后 Transformer 模型,将序列建模重构为在相互作用的神经元粒子网络上的局部图动力学。该模型在潜在空间中进行推理,而非像链式思维那样生成额外 token 并逐步反馈。BDH 采用 Hebbian 学习(即“一起放电的神经元会连接在一起”)来实现注意力机制,并通过稀疏、局部的交互及类似突触的连接来维持状态。

背景与影响

文章指出,Transformer 架构在训练和推理中面临多项根本性局限,包括系统泛化能力不足、计算成本随模型规模指数增长、难以在不重训或微调的情况下高效更新知识、推理时注意力机制的可扩展性受限,以及固定上下文窗口和 KV-cache 对序列长度的限制。Pathway 的 BDH-CQ 版本可在推理过程中通过循环潜在状态内的迭代计算更新模型内部记忆,无需生成冗长的文字推理轨迹,也无需微调或重训。Pathway 首席执行官 Zuzanna Stamirowska 在文中表示,一个基于 BDH 架构的 1.5 亿参数模型在 ARC-AGI-1 基准上实现了成本效率的新突破,并称“瓶颈从来不是智能,而是设计”。Pathway 的 BDH 与 PyTorch 等框架集成,并使用 SageMaker HyperPod 扩展训练,以帮助其应用科学家以弹性、可扩展且经济高效的方式共享计算资源。

限制与来源

以上信息均来自 AWS 官方博客文章,属于厂商宣传材料,其中关于模型性能、基准测试结果及架构优势的表述尚未经独立验证。文中提及的“1.5 亿参数模型在 ARC-AGI-1 上实现成本效率新突破”等具体数据,仅代表 Pathway 方面的说法。相关产品功能、可用性及定价信息,请以 AWS 与 Pathway 官网当前公布的内容为准。