LEANN 开源向量索引：6000 万块 RAG 索引从 201GB 压到 6GB

核心事实

据 MarkTechPost 报道，加州大学伯克利分校 Sky Computing Lab 开源了向量索引 LEANN。其思路是几乎不保存嵌入向量，而是在查询时重新计算。仓库基准显示，一个 6000 万块的维基百科索引从 201GB 降至 6GB；论文中的 76GB 维基百科场景则占用 4GB。该项目采用 MIT 许可证，可通过 uv pip install leann 安装，论文获 MLSys 2026 最佳研究论文奖。

背景与影响

向量索引常常比被索引的数据本身还大。论文给出的例子是：76GB 语料需要 173GB 嵌入加 15GB HNSW 图。LEANN 构建在 FAISS 之上，保留剪枝后的图与紧凑的乘积量化表，查询时只对搜索路径上的节点重新嵌入，并配合两级搜索与动态批处理控制开销。论文自报数据显示，在 NQ 数据集、90% 召回下，LEANN 与 HNSW 的下游准确率同为 25.5%，存储分别为 4GB 和 188GB；代价是检索耗时 2.48 秒，而 HNSW 为 0.05 秒。仓库还称 40 万条聊天记录可从 1.8GB 降至 64MB。

限制与来源

上述存储、延迟与准确率数字均为论文与仓库自报，尚未获独立复现确认。论文测试环境包括 RTX 4090 配 32GB 内存的机器与 M1 Ultra Mac；CPU-only 安装存在，但未公布延迟数据。部分应用如 Apple Mail 搜索仅限 macOS。功能、平台支持与许可证请以项目官网及仓库当前信息为准。来源：MarkTechPost，原始论文与 GitHub 仓库。