RAG五步法 - 向量知识库搭建：从答非所问到精准回复

原文首发于人人都是产品经理，作者：李嘻嘻 原文链接：点击查看

1. 翻车：一个让运营想摔键盘的回复

智能客服上线第二周，一位用户问："积分怎么用啊？"

知识库里有标准问答："积分如何使用" → "积分可在结算时抵扣现金，100积分=1元"。但机器人没匹配上，因为用户说的是"怎么用"，库里写的是"如何使用"。

机器人走了默认回复："抱歉，知识库中未包含。"用户回了一个字："滚。"

问题： 关键词匹配，用户表达稍有变化就搜不到。

2. 本质：客服的核心不是"能聊"，而是"能找到"

客服的第一要务是"把正确答案找出来"，而不是"自己编一个答案"。

传统关键词匹配的痛点：用户说人话，库里写的是"官方语言"，匹配不上。

3. 技术选型：向量检索 + 大模型重排

• 召回阶段：用Embedding模型把用户问句和知识库标准问题都转成向量，用Milvus做近似最近邻检索，召回Top-K
• 重排阶段：把召回的候选送给大模型打分，选最相关的1条
• 输出答案：命中后返回预先写好的标准答案，绝不生成新内容

4. 五步法：从零到一搭建向量知识库

第一步：清洗知识库

• 问题标准化：每个标准问题写成最通用的问法
• 答案纯净：只保留答案，去掉废话
• 同义问法扩展：每个标准问题写3-5个同义问法

200条问答扩展后变成600条，召回率直接涨了一半。

第二步：选择Embedding模型

选型标准：中文语义理解能力、推理速度、可本地部署。

第三步：向量化 + 存入Milvus

把所有标准问题+同义问法全部转成向量，存入Milvus向量数据库。

第四步：召回 + 重排

用户问"积分怎么用啊"：

1. 转成向量，搜Top-10
2. 拼成prompt送给大模型选最匹配的
3. 大模型返回序号，取出标准答案

第五步：兜底 + 人工闭环

最高分低于阈值时转人工，同时存入"未命中知识库"，每周人工审核，形成数据闭环。

5. 落地遇到的三个坑

坑一：同义问法写太多导致检索漂移 — 每个标准问题不超过5条

坑二：长文本问题检索不准 — 先用大模型做关键信息抽取再检索

坑三：知识库更新不及时 — 每次变更触发增量更新

6. 坦诚局：向量知识库依然搞不定的场景

1. 需要多步推理：用规则引擎+代码算
2. 答案需要实时数据：意图识别后直接调用API
3. 超低频长尾问题：走兜底转人工

结语

智能客服不要迷信大模型生成。先把知识库检索做到极致，80%的问题就能解决。

召回靠Embedding，存储靠Milvus，重排靠大模型，答案靠人工写——可控、不胡说。

延伸阅读：RAG进阶优化看门店运维RAG实战；智能客服MVP搭建看别一上来就搞大模型。

---

关于作者

李嘻嘻，9年产品经理 + 3年AI实践者，专注于AI产品落地和工具开发。

• 个人站：https://yourhelper.me
• 项目：FormAI、TargetLink、XixiType等6个AI工具