向量检索在搜索召回中的工程落地:参数、增量与一致性

语义召回上线一年,向量索引承载了 30% 的召回流量。回头看在算法之外的工程问题,比调模型难得多。

一、基础参数:先把 recall 与延迟的曲线画出来

HNSW 有三个关键参数,网上到处是”推荐值”,但真正有用的是你自己数据上的曲线:

  • M:每个节点的邻居数,影响内存与召回;
  • efConstruction:建索引时的候选集大小,只影响构建;
  • efSearch:查询时的候选集大小,直接影响延迟。

我们在 4200 万条向量(768 维,float16)上的实测:

efSearch recall@10 P99 延迟 单节点 QPS
32 0.821 3.1ms 4200
64 0.903 5.4ms 2800
128 0.948 9.8ms 1650
256 0.971 18.2ms 880

我们最终落在 efSearch=96。选择依据不是 recall 最高,而是在召回链路里,向量召回只提供候选,后面还有粗排和精排。recall 从 0.94 提到 0.97 带来的最终 GMV 提升不足 0.3%,但延迟翻倍会挤占其他召回通路的预算。

不要孤立地优化单路召回的 recall。看链路终点的效果。

二、增量更新:别重建索引

最初我们每天凌晨全量重建,问题是:白天新增的商品搜索不到,用户投诉”刚上架就搜不到”。

改成增量写入后遇到第一个坑:HNSW 的插入会改变图的连通性,写入期间查询质量会波动。

处理方式:

  • 索引分「主段」与「增量段」。增量段用较小的 M,容量上限 200 万,写满后合并进主段;
  • 合并采用后台任务,双缓冲切换,查询侧无感;
  • 增量段的搜索结果与主段结果做 merge,按距离重排。

合并期间 P99 延迟会上升约 15%,我们把合并限速在夜间低峰,并设置 CPU 水位保护。

三、删除:最容易被忽略的部分

HNSW 不支持真正的删除。常见做法是标记删除 + 查询时过滤,但这会带来两个问题:

  1. 图被污染:被删节点的邻居指向它,查询时走到死胡同,recall 下降;
  2. 过滤成本:删除比例高时,需要扩大 efSearch 才能凑够 k 个有效结果。

我们的删除比例长期在 8%–12% 之间,实测 recall 衰减约 3 个百分点。解决方案是按删除比例触发局部重建:单段删除率超过 15% 就在后台重建该段。

另外,下架商品必须同步删除向量——我们在商品状态变更的事件里加了强一致的处理,延迟控制在 5 秒内。

四、分片与一致性

4200 万条向量分了 16 个分片,按商品类目哈希。分片带来三个问题:

热点分片。 类目分布不均,最大的分片承载了 21% 的数据。改成按类目 + 二级类目组合哈希,最大分片降到 9%。

跨分片查询。 查询要打到所有分片再归并,分片越多长尾越明显。我们用「并行 + 超时降级」:单分片 50ms 未返回就跳过,用已返回的结果补齐。

版本一致性。 商品信息在 MySQL 和向量索引里各有一份,可能出现”向量是旧的、属性是新的”。我们的做法是给向量带上 updated_at,查询结果回表时若发现版本落后,直接丢弃该候选。宁缺毋滥。

五、效果与代价

指标 上线前 上线后
长尾 query 点击率 1.2% 2.9%
零结果率 14.3% 4.1%
召回耗时 P99 12ms 26ms
内存占用 — 68GB

零结果率的下降是最直接的用户体感改善——以前搜不到的商品,现在能通过语义匹配找出来。

六、几条建议

  • 先算内存。4200 万 × 768 维 × 2 字节 ≈ 64GB,加上图结构开销,单机放不下就得考虑量化或分片,这个决策会影响后面所有设计。
  • 量化要验证效果。int8 量化能把内存减半,但我们的数据上 recall 掉了 2.1 个百分点,最终选择 float16。
  • 把删除当一等公民。设计阶段就考虑删除比例的增长曲线,否则一年后索引质量会悄悄退化。
  • 效果回归要有基线。每次参数调整都跑固定 query 集,比对 top-10 重合度,避免”感觉变好了”。