AB
AiBoss
ニュース

Meta FAIR 发布 e-means 聚类算法,已随 FAISS 1.16.0 提供

Meta FAIR 发布 e-means,一种可替换 Lloyd k-means 的聚类算法,以指数移动平均更新质心。作者自报其达到 Lloyd 25 轮损失仅需 1.4 至 2.6 轮,并已随 FAISS 1.16.0 以 faiss.contrib.e_means 提供。

核心事实

Meta FAIR 研究人员发布了 e-means,一种可直接替换 Lloyd k-means 的聚类算法,已随 FAISS 1.16.0 以 faiss.contrib.e_means 模块提供。据作者说明,e-means 属于小批量 k-means,用指数移动平均(EMA)更新质心:对每个簇的统计量 S 与 N 按衰减率 α 做 S ← (1−α)S + αs,使旧分配逐步淡出,质心跟随近期数据。Lloyd 方法被视为全批量、α = 1 的特例。

背景与影响

对构建向量索引、量化器或数据清洗流程的团队而言,聚类常是离线环节中最慢的一步,e-means 正针对这一环节。作者自报的结果包括:在 24 组数据集配置上,以约十分之一的轮数取得低于 Lloyd 的损失;GPU 上相对 Flash-KMeans 在同等损失下有 10 至 45 倍实际耗时加速,CPU 上相对 Faiss k-means 为 8 至 15 倍。方法还包含按数据规模、簇数与轮数拟合的缩放律来设定批量与初始步长,以及死簇复活和末轮精确均值收尾等机制。测试规模从 10 万点至 100 亿点、最多 1670 万簇。

限制与来源

上述性能数字均为作者自报,尚未见独立复现。作者指出,1600 万质心的运行需要 64 GiB 的 float32 累加器,质心须跨 GPU 分片;GPU 测试使用 H100。许可与可用性以 FAISS 官方仓库及官网当前信息为准。本文依据 MarkTechPost 报道及其引用的论文、博客与代码链接整理。