project
Hindsight - 开源的智能体长期记忆系统,能模拟人脑分层
Hindsight 是 Vectorize.io 开源的智能体长期记忆系统,能模拟人脑分层,底层抽取结构化事实,中间观察层自动去重合并、保留证据链、随新信息增量修正,顶层...
Hindsight是什么
Hindsight 是 Vectorize.io 开源的智能体长期记忆系统,能模拟人脑分层,底层抽取结构化事实,中间观察层自动去重合并、保留证据链、随新信息增量修正,顶层心智模型预计算常见问题的答案。Hindsight 提供 Retain、Recall(四路并行召回)、Reflect 三种操作。LongMemEval 基准得分 94.6%,暂列第一。一行 Docker 或两行代码可接入现有智能体。
Hindsight的主要功能
-
Retain(存入):调用 LLM 从对话中抽取关键事实、时间、实体与关系,归一化后写入记忆库。
-
Recall(召回):语义向量、BM25 关键词、图谱关系、时间范围四路并行检索,融合重排后返回相关记忆。
-
Reflect(反思):对记忆做多轮深入推理,生成新洞见或回答需要思考的问题,可指定怀疑、字面、共情等性格倾向。
-
心智模型与 Pages:为常问问题维护常驻答案并随新记忆自动改写,可投影为本地 Markdown 文件。
-
编程智能体记忆:自动从 git 历史与会话构建按仓库隔离的记忆,注入 Claude Code、Cursor 等工具。
-
记忆银行(Banks):以银行为单位严格隔离不同用户/项目的记忆,支持多语言原生实体名和敏感信息拦截。
Hindsight的技术原理
- 仿生分层记忆组织:记忆被划分为世界事实(关于世界的知识)、经历(智能体自身的事件)、观察(由多条事实合并出的信念)、心智模型(从观察和事实中提炼出的认知)四类,分别对应不同的写入通路,比单一的向量库或知识图谱更接近人脑”原始记录→巩固→抽象”的加工链路。
- 观察层的增量信念修正:后台合并进程把相关事实去重整合为观察,每条观察携带原始证据引文和证明计数;新证据到来时对已有信念做强化、削弱或扩展,从机制上解决长期记忆”事实变更”核心难题。
- 多路召回与精排管线:四路检索(稠密向量语义、BM25 关键词、实体/时序/因果图遍历、时间过滤)并行执行,结果经 reciprocal rank fusion 合并,再由 cross-encoder 重排模型按相关性排序,兼顾查全率与精度。
- 预计算心智模型换取成本与稳定性:心智模型的答案在后台随记忆增长持续重写,读取时只是一次数据库查询而非 LLM 调用,智能体启动即可带着”已沉淀的认知”工作,减少重复推理的开销和幻觉面。
- 专用小模型接管判断类任务:自研决策模型(0.8B)、重排模型(114M)、嵌入模型(112M)分别承担”这条事实是否新””哪些记忆相关”等小判断,输出结构化结果替代原本要发给大模型的文本解析调用,显著降低 token 成本。
微信关注回复“开源”,加入AI开源项目交流群
如何使用Hindsight
-
启动服务:运行
docker run命令(或pip install hindsight-api后执行hindsight-api),把 LLM 的 API Key 通过环境变量传入,即可在 8888 端口启动记忆服务。 -
安装客户端:选择对应语言的 SDK(Python 的
hindsight-client、Node 的 npm 包或 Go 包)连接到服务地址。 -
存入记忆:调用
retain(bank_id, content),传入原始对话或事实文本,系统自动完成事实抽取与归一化。 -
检索记忆:调用
recall(bank_id, query),系统四路并行检索并返回按相关性排序的记忆结果。 -
深度推理:需要综合分析时调用
reflect(bank_id, query),系统基于记忆生成带证据的推理答案。 -
接入现有应用:用
hindsight-litellm的wrap_openai()包裹现有 LLM 客户端,两行代码可让每次对话自动存取记忆,无需改动业务逻辑。
Hindsight的核心优势
-
基准成绩领先:LongMemEval 总得分 94.6%,显著高于 Zep(71.2%)和 Supermemory(85.92%),并被第三方机构独立复现。
-
事实增量修正:观察层保留证据链和证明计数,新信息到来时强化、削弱或扩展已有信念,从机制上解决”事实变了记忆不更新”的痛点。
-
多路并行召回:语义、关键词、图谱、时间四路检索加精排融合,兼顾查全率与精度,时间敏感问题也能稳定命中。
-
反思能力抗幻觉:Reflect 操作基于证据链多轮推理,而非让大模型凭空作答,从机制上压制记忆型幻觉。
-
心智模型预计算:常问答案常驻缓存,读取时零 LLM 调用,智能体启动即带”已沉淀的认知”,又快又省。
-
小模型降本:决策、重排、嵌入三个轻量开源模型接管判断类任务,大幅减少发给大模型的 token 量。
Hindsight的项目地址
- 项目官网:https://hindsight.vectorize.io/
- GitHub仓库:https://github.com/vectorize-io/hindsight
- HuggingFace模型库:https://huggingface.co/hindsight-ai
Hindsight的同类竞品对比
| 维度 | Hindsight | Zep(Graphiti) |
| 核心定位 | 会学习的仿生分层记忆系统 | 时序知识图谱记忆层 |
| 数据结构 | 事实→观察→心智模型三层组织 | 双时序知识图谱(事实带有效期窗口,历史版本可追溯) |
| 事实更新机制 | 观察层增量修正:新证据强化/削弱/扩展信念,带证据链与证明计数 | 事实过期失效 + 保留历史版本,严格时序一致性 |
| 召回方式 | 语义/关键词/图谱/时间四路并行 + RRF 融合 + cross-encoder 重排 | 全文 + 向量 + 图搜索三路混合 + 重排 |
| LongMemEval 成绩 | 94.6%(声称经第三方独立复现) | 71.2%(Hindsight 图表数据,厂商自报;Zep 官方另自报 90.2%) |
| 特色能力 | Reflect 反思推理、心智模型零 LLM 调用读取、Pages 可投影为本地 Markdown、45 种 PII 拦截策略 | P95 检索延迟 <200ms、企业级客户积累深厚 |
| 开源程度 | 全栈 MIT 开源,含自研决策/重排/嵌入模型权重(Apache 2.0 / MIT) | Graphiti 引擎开源;Zep 社区版 2025 年停止维护,重心转向托管云服务 |
| 部署形态 | Docker 单容器 / pip / 嵌入式库 / K8s,内置存储无需外部数据库 | 需搭配 FalkorDB / Neo4j / Kuzu 等图数据库 |
Hindsight的应用场景
-
个性化对话助手:为每位用户建立隔离的记忆银行,让聊天机器人跨会话记住偏好、历史与上下文。
-
编程智能体项目记忆:从 git 历史和历史会话自动构建按仓库隔离的记忆,注入 Claude Code、Cursor 等编码工具。
-
AI 项目经理:通过 Reflect 对项目记忆做多轮反思,识别需要提前规避的风险。
-
销售智能体:分析历次客户外联的反馈记忆,总结哪类话术更容易获得回复并优化策略。
-
客服智能体:记住客户的历史工单与偏好,同时反思出产品文档尚未覆盖的高频问题。