AB
AiBoss
project

Hindsight - 开源的智能体长期记忆系统,能模拟人脑分层

Hindsight 是 Vectorize.io 开源的智能体长期记忆系统,能模拟人脑分层,底层抽取结构化事实,中间观察层自动去重合并、保留证据链、随新信息增量修正,顶层...

Hindsight是什么

Hindsight 是 Vectorize.io 开源的智能体长期记忆系统,能模拟人脑分层,底层抽取结构化事实,中间观察层自动去重合并、保留证据链、随新信息增量修正,顶层心智模型预计算常见问题的答案。Hindsight 提供 Retain、Recall(四路并行召回)、Reflect 三种操作。LongMemEval 基准得分 94.6%,暂列第一。一行 Docker 或两行代码可接入现有智能体。

Hindsight的主要功能

  • Retain(存入):调用 LLM 从对话中抽取关键事实、时间、实体与关系,归一化后写入记忆库。
  • Recall(召回):语义向量、BM25 关键词、图谱关系、时间范围四路并行检索,融合重排后返回相关记忆。
  • Reflect(反思):对记忆做多轮深入推理,生成新洞见或回答需要思考的问题,可指定怀疑、字面、共情等性格倾向。
  • 心智模型与 Pages:为常问问题维护常驻答案并随新记忆自动改写,可投影为本地 Markdown 文件。
  • 编程智能体记忆:自动从 git 历史与会话构建按仓库隔离的记忆,注入 Claude Code、Cursor 等工具。
  • 记忆银行(Banks):以银行为单位严格隔离不同用户/项目的记忆,支持多语言原生实体名和敏感信息拦截。

Hindsight的技术原理

  • 仿生分层记忆组织:记忆被划分为世界事实(关于世界的知识)、经历(智能体自身的事件)、观察(由多条事实合并出的信念)、心智模型(从观察和事实中提炼出的认知)四类,分别对应不同的写入通路,比单一的向量库或知识图谱更接近人脑”原始记录→巩固→抽象”的加工链路。
  • 观察层的增量信念修正:后台合并进程把相关事实去重整合为观察,每条观察携带原始证据引文和证明计数;新证据到来时对已有信念做强化、削弱或扩展,从机制上解决长期记忆”事实变更”核心难题。
  • 多路召回与精排管线:四路检索(稠密向量语义、BM25 关键词、实体/时序/因果图遍历、时间过滤)并行执行,结果经 reciprocal rank fusion 合并,再由 cross-encoder 重排模型按相关性排序,兼顾查全率与精度。
  • 预计算心智模型换取成本与稳定性:心智模型的答案在后台随记忆增长持续重写,读取时只是一次数据库查询而非 LLM 调用,智能体启动即可带着”已沉淀的认知”工作,减少重复推理的开销和幻觉面。
  • 专用小模型接管判断类任务:自研决策模型(0.8B)、重排模型(114M)、嵌入模型(112M)分别承担”这条事实是否新””哪些记忆相关”等小判断,输出结构化结果替代原本要发给大模型的文本解析调用,显著降低 token 成本。

微信关注回复“开源”,加入AI开源项目交流群

如何使用Hindsight

  • 启动服务:运行 docker run 命令(或 pip install hindsight-api 后执行 hindsight-api),把 LLM 的 API Key 通过环境变量传入,即可在 8888 端口启动记忆服务。
  • 安装客户端:选择对应语言的 SDK(Python 的 hindsight-client、Node 的 npm 包或 Go 包)连接到服务地址。
  • 存入记忆:调用 retain(bank_id, content),传入原始对话或事实文本,系统自动完成事实抽取与归一化。
  • 检索记忆:调用 recall(bank_id, query),系统四路并行检索并返回按相关性排序的记忆结果。
  • 深度推理:需要综合分析时调用 reflect(bank_id, query),系统基于记忆生成带证据的推理答案。
  • 接入现有应用:用 hindsight-litellm 的 wrap_openai() 包裹现有 LLM 客户端,两行代码可让每次对话自动存取记忆,无需改动业务逻辑。

Hindsight的核心优势

  • 基准成绩领先:LongMemEval 总得分 94.6%,显著高于 Zep(71.2%)和 Supermemory(85.92%),并被第三方机构独立复现。
  • 事实增量修正:观察层保留证据链和证明计数,新信息到来时强化、削弱或扩展已有信念,从机制上解决”事实变了记忆不更新”的痛点。
  • 多路并行召回:语义、关键词、图谱、时间四路检索加精排融合,兼顾查全率与精度,时间敏感问题也能稳定命中。
  • 反思能力抗幻觉:Reflect 操作基于证据链多轮推理,而非让大模型凭空作答,从机制上压制记忆型幻觉。
  • 心智模型预计算:常问答案常驻缓存,读取时零 LLM 调用,智能体启动即带”已沉淀的认知”,又快又省。
  • 小模型降本:决策、重排、嵌入三个轻量开源模型接管判断类任务,大幅减少发给大模型的 token 量。

Hindsight的项目地址

  • 项目官网:https://hindsight.vectorize.io/
  • GitHub仓库:https://github.com/vectorize-io/hindsight
  • HuggingFace模型库:https://huggingface.co/hindsight-ai

Hindsight的同类竞品对比

维度 Hindsight Zep(Graphiti)
核心定位 会学习的仿生分层记忆系统 时序知识图谱记忆层
数据结构 事实→观察→心智模型三层组织 双时序知识图谱(事实带有效期窗口,历史版本可追溯)
事实更新机制 观察层增量修正:新证据强化/削弱/扩展信念,带证据链与证明计数 事实过期失效 + 保留历史版本,严格时序一致性
召回方式 语义/关键词/图谱/时间四路并行 + RRF 融合 + cross-encoder 重排 全文 + 向量 + 图搜索三路混合 + 重排
LongMemEval 成绩 94.6%(声称经第三方独立复现) 71.2%(Hindsight 图表数据,厂商自报;Zep 官方另自报 90.2%)
特色能力 Reflect 反思推理、心智模型零 LLM 调用读取、Pages 可投影为本地 Markdown、45 种 PII 拦截策略 P95 检索延迟 <200ms、企业级客户积累深厚
开源程度 全栈 MIT 开源,含自研决策/重排/嵌入模型权重(Apache 2.0 / MIT) Graphiti 引擎开源;Zep 社区版 2025 年停止维护,重心转向托管云服务
部署形态 Docker 单容器 / pip / 嵌入式库 / K8s,内置存储无需外部数据库 需搭配 FalkorDB / Neo4j / Kuzu 等图数据库

Hindsight的应用场景

  • 个性化对话助手:为每位用户建立隔离的记忆银行,让聊天机器人跨会话记住偏好、历史与上下文。
  • 编程智能体项目记忆:从 git 历史和历史会话自动构建按仓库隔离的记忆,注入 Claude Code、Cursor 等编码工具。
  • AI 项目经理:通过 Reflect 对项目记忆做多轮反思,识别需要提前规避的风险。
  • 销售智能体:分析历次客户外联的反馈记忆,总结哪类话术更容易获得回复并优化策略。
  • 客服智能体:记住客户的历史工单与偏好,同时反思出产品文档尚未覆盖的高频问题。