企业知识库怎么做,最短的回答是:先把资料整理好,再用 RAG 让大模型基于这些资料回答问题,并且每条回答都带出处。听上去简单,真正做起来,难点往往在资料和流程上,而不在模型本身。
这篇文章用通俗的话讲清 RAG 的原理,给出可照着走的搭建流程,列出常见失败原因,再讲权限、验收和上线后的运营。最后说明莱客的企业知识库问答能做什么。
一、RAG 是什么,用大白话怎么理解?
RAG 是 Retrieval-Augmented Generation 的缩写,中文常译作检索增强生成。把它想成一场开卷考试:大模型是一个读过很多书的学生,但没读过你公司的内部资料。考试时,你先让助手从资料柜里翻出最相关的几页,递给学生,让他看着这几页回答问题。
所以 RAG 分两步:检索,从知识库里找出和问题最相关的片段;生成,让大模型基于这些片段组织成回答。模型本身不需要重新训练,更新资料后,应按系统的入库和索引流程更新并验证。这是企业知识库问答可以采用的一条路线。
它解决的是两类问题:模型不知道你的私有信息,比如产品手册、制度、报价规则;模型不知道最新信息,因为它的训练数据有截止日期。同时因为回答有出处可查,也比纯靠模型记忆更容易核对。
二、企业知识库该用 RAG 还是微调?
很多人一上来就问要不要微调。先看区别:微调是改变模型本身的行为,RAG 是在回答时给模型补充资料。两者解决的问题不同。
| 对比项 | RAG(检索增强) | 微调 |
|---|---|---|
| 解决什么 | 让模型能查到你的资料并据此回答 | 让模型学会某种风格、格式或专门任务 |
| 知识更新 | 更新资料后,按入库和索引流程更新并验证 | 需要重新准备数据并训练 |
| 能否标出处 | 可以,回答可附引用片段 | 很难,知识混在模型参数里 |
| 权限控制 | 检索时按用户权限过滤资料 | 训练进模型的内容难以按人隔离 |
| 幻觉风险 | 有资料依据,可以要求查不到就拒答 | 仍可能凭记忆编造 |
| 适合场景 | 制度问答、产品资料、客服、售后、内部检索 | 固定输出格式、行业话术风格、特定分类任务 |
常见的做法是先做 RAG,把知识类问题解决好;只有当你发现模型的输出风格或格式怎么调提示词都不对,再评估微调。把知识灌进微调模型,更新和权限隔离都比较困难,一般不建议。
三、企业知识库怎么搭,一步步怎么走?
下面是一种可参考的搭建流程。每一步都有典型的坑,建议先按顺序走通,再根据数据和测试结果调整。
- 资料盘点:列出要进库的资料清单,注明来源、负责人、更新频率、密级。先选高频问题对应的资料,不要一次性全灌。
- 清洗:去掉重复、过期、互相矛盾的版本,统一格式。扫描件要先做文字识别并人工抽查,表格和图片里的信息要单独处理。
- 切分:把长文档切成语义完整的片段,保留标题层级和所属文档信息。切得太碎丢上下文,切得太长检索不准。
- 向量检索:把片段转成向量存入向量库,用户提问时找最相似的片段。可以搭配关键词检索做混合检索,专有名词和编号靠关键词往往更准;是否采用,应根据数据及测试结果决定。
- 重排:先召回较多候选,再用重排模型或规则挑出最相关的几段,是否需要这一步,应根据测试结果决定。
- 生成回答:把问题和选出的片段交给大模型,要求只依据所给资料回答,资料里没有就说不知道。
- 引用来源:每条回答附上所用片段的文档名和位置,让用户一点就能看到原文,这是建立信任的关键。
四、知识库问答为什么经常失败?
企业做出来答不准、没人用,往往不只是模型的问题。下面这张表把常见失败原因和对应的处理办法放在一起。
| 失败表现 | 常见原因 | 处理办法 |
|---|---|---|
| 答非所问 | 切分不当、检索没召回正确片段 | 调整切分方式,加混合检索和重排,补充同义词 |
| 答案过时或矛盾 | 新旧版本资料并存 | 清洗资料,给文档加版本和生效日期,淘汰旧版 |
| 编造不存在的内容 | 没限制只依据资料作答,也没有拒答机制 | 提示词要求查不到就拒答,设置检索得分阈值 |
| 表格数字答错 | 表格被切碎或文字识别出错 | 表格单独解析,关键数字人工核对 |
| 看到不该看的内容 | 没有按权限过滤检索结果 | 检索阶段按部门、角色过滤,而不是回答后再遮盖 |
| 没人用 | 覆盖的问题不是员工真正在问的 | 收集真实问题做资料盘点,从高频问题入手 |
| 越用越差 | 没人维护,新资料没进库 | 指定负责人,建立更新流程和定期复测 |
五、大模型幻觉怎么解决?
幻觉指模型一本正经地编造看似合理但并不存在的内容。RAG 可以让回答参考检索到的资料,有助于减少幻觉,但无法降到零。要在知识库里把幻觉控制住,需要几道防线叠加。
- 限定依据:提示词明确要求只能依据检索到的资料回答,不得补充资料之外的内容。
- 允许拒答:给模型一个体面的出口,查不到就回答「资料中没有相关内容」,并提示联系负责人。
- 检索阈值:相似度太低的片段不送给模型,避免拿无关内容硬凑答案。
- 强制引用:要求每个结论标注出处,没有出处的结论不展示。
- 关键场景人工复核:涉及合同、财务、法规、对外承诺的回答,必须由人确认后再使用。
- 持续抽检:定期抽查线上回答,把错误案例回流到资料和流程里修正。
六、私有知识库的权限与脱敏怎么做?
知识库把分散的资料集中起来,也就把风险集中起来了。权限和脱敏要在设计阶段就考虑,事后补很难。
- 按资料分级:把资料分成全员可见、部门可见、岗位可见和受限几档,进库时就打好标签。
- 检索时过滤:根据提问人的身份,只在他有权看的资料范围内检索,而不是先检索再遮挡。
- 脱敏处理:个人信息、客户名称、金额等敏感字段,按需要在入库前脱敏,或限制只对特定角色展示。
- 部署位置:数据放在哪、调用哪个模型,要与数据分级匹配,敏感资料需按适用法规和内部制度核对后再决定。
- 日志与审计:记录谁在什么时间问了什么、看到了哪些资料,便于追溯和复盘。
七、知识库上线前怎么验收?
不要凭感觉说「看起来还行」。上线前至少准备一套验收材料,并明确通过标准。
- 准确率抽检集:从真实工作中收集几十到上百个问题,每题配标准答案和对应的资料出处,覆盖高频问题和容易出错的边缘问题。
- 拒答测试:专门准备一批库里没有答案的问题,看系统是否拒答,而不是胡编。拒答率要看合理性,不是越高越好或越低越好。
- 引用溯源:随机抽取回答,核对引用的原文是否真实存在、是否真的支持结论。
- 权限测试:用不同角色账号提问,确认受限资料不会泄露。
- 体验指标:记录响应时间、并发表现和用户满意度反馈。
验收标准由业务方和技术方共同商定并书面确认,比如高频问题的正确率要达到多少、关键场景是否必须附引用。数值应基于你自己的业务风险来定,不要照搬别人。
八、上线之后怎么运营,才不会越用越差?
知识库不是一次性项目。上线只是开始,运营决定它能不能长期有用。
- 指定负责人:每类资料有明确的维护人,资料变更时同步更新知识库。
- 看未命中问题:定期统计查不到答案的问题,这是最直接的资料补充清单。
- 收集用户反馈:给每条回答加有用或无用的反馈按钮,差评回答逐条复盘。
- 定期复测:用验收时的抽检集每月或每次大更新后跑一遍,确认质量没有下滑。
- 版本管理:资料有生效日期和版本号,制度更新时旧版及时下线。
- 用业务指标衡量:比如客服重复问题的处理时长、新人上手速度,而不是只看问答次数。
九、莱客的企业知识库问答能做什么?
企业知识库问答是莱客 AI 落地服务的一部分:把企业的资料、SOP、手册交给 AI,随问随答,减少回答漂移。它属于莱客智能体开发的一类应用,可以结合企业微信 AI 小秘书、网站 AI 客服等场景规划,具体范围和验收方式按项目确定,权限与日志的设计也在方案里。
做法上沿用本文的思路:先通过 AI 落地诊断梳理哪些资料、哪些问题值得先做,再小范围试点,按项目约定的方式验收(例如准备抽检集),最后扩大使用并持续运营。如果你不确定自己公司适不适合做,可以先做在线诊断,或联系顾问聊聊具体情况。方案与安排请联系顾问。