RAG 是什么:为什么要让 AI 先查资料再回答?
开场问题
当你问 AI“我们公司的报销标准是什么”,它可能说得很顺,却不一定知道你公司的最新制度。通用 AI 学过大量公开内容,但它没有天然进入企业文件柜,也未必掌握刚更新的产品手册。难道每增加一份资料,都要重新训练一个模型吗?
RAG 提供了另一条常见路径:回答前先从指定资料中查找相关内容,再让 AI 依据查到的片段组织答案。RAG 是“检索增强生成”的英文缩写。它不是让 AI 获得记忆或意识,而是给生成过程接上一个可搜索的资料库。

图解:RAG 不是让模型凭空记住企业资料,而是先从指定知识库找回证据片段,再让模型依据证据组织回答。
核心解释:从检索到生成的流水线
一个典型的 RAG 系统,可以理解为“资料准备”和“问答执行”两个阶段。资料准备阶段先收集允许使用的文档,再把它们整理成便于搜索的形态;问答阶段则围绕用户的问题寻找证据并生成回答。
切片:把长文档拆成可检索的小段
制度文件、操作手册和会议纪要往往很长。如果每次把整份文档都交给 AI,不仅成本高,关键信息也容易被淹没。因此系统会按标题、段落、页码或语义边界切成较小片段,并保留文件名、章节、版本等信息。
切片并非越小越好。片段太大,会混入很多无关内容;片段太小,又可能把条件和结论拆开。例如“差旅住宿上限”与“适用城市级别”如果落在不同片段,单独检索其中一段就可能造成误解。
检索与召回:从资料库找候选证据
用户提问后,系统会把问题与资料片段进行匹配。常见做法包括关键词搜索,也包括按语义相似度搜索:即使问题写的是“出差住酒店能报多少”,也可能找到标题为“住宿费限额”的内容。
系统通常会召回若干候选片段,而不是只取一个。这里的“召回”可以简单理解为“把可能有关的资料先找回来”。之后还可以重新排序,把更匹配、更新或权限允许的片段放在前面。召回太少可能漏掉关键条件,太多则会给生成阶段带来噪声。
生成:让 AI 基于证据组织答案
检索结果会连同问题一起交给生成模型。提示中通常会要求模型优先依据这些片段回答,不足时明确说资料不够,而不是自由补全。模型的作用是理解问题、综合多段内容并用自然语言表达,不是把搜索结果机械拼接起来。
引用:让读者能够回到原文
成熟的 RAG 应尽量保留来源信息,例如文档名称、章节、页码、链接或版本。引用不等于答案必然正确,但它为核验提供了路径。读者可以检查引用是否真的支持结论,也能发现系统引用了旧制度还是新制度。对于业务使用,“能追溯”往往和“回答得像人”同样重要。
生活化类比:开卷考试与图书管理员
可以把通用 AI 想成一位知识面很广、但不能记住所有内部规定的答题者。RAG 像给他配了一位图书管理员:先根据问题去书架找相关页,贴上书名和页码,再让答题者阅读这些页并组织答案。
例如,员工问:“客户拜访产生的市内交通费需要什么凭证?”系统先在最新版费用制度中检索“客户拜访”“市内交通”和“凭证”,召回相关条款,再回答所需材料并附上章节。如果资料库里只有旧版制度,或者相关条款根本没有录入,回答仍可能不完整。这说明 RAG 改善了信息来源,却不能凭空创造缺失的资料。
常见误区
第一,认为接入 RAG 就不会答错。检索可能找错,模型也可能误读或过度概括。它降低某些错误的概率,不提供绝对保证。
第二,认为资料越多越好。重复文件、过期版本和相互矛盾的制度会让检索更混乱。资料治理是系统质量的一部分。
第三,把“搜到相关”当成“足以证明”。一段文字主题相近,不代表它支持具体结论。引用必须与回答中的关键主张对应。
第四,忽视权限。内部文档能被检索,不代表每位用户都应该看到。检索前后都需要遵守身份、部门和文档权限。
第五,把 RAG 当成实时互联网。只有被接入、更新并成功索引的来源才能被查到;外部网页是否实时,要看系统是否配置了相应工具和更新机制。
实践建议
先从一个边界清楚、价值明确的场景开始,例如查询员工手册或产品售后流程。整理权威来源,删除明显重复文件,标明版本、生效范围和负责人。切片时尽量保留标题与上下文,并用真实用户问题测试能否召回正确条款。
评估时不要只看回答是否流畅。可以逐项检查:相关资料有没有被找到,关键条件有没有遗漏,引用能否打开并支持结论,资料不足时是否诚实拒答。还应记录用户反馈,定期处理过期文档和检索失败的问题。
高风险场景要保留人工确认。RAG 可以帮助客服、法务、财务或运营更快定位资料,但最终决定仍应遵循正式制度和专业审核。遇到来源冲突时,系统最好展示冲突并提示确认,而不是替用户悄悄选择一种说法。
简短总结
RAG 的价值,可以概括为“先找证据,再组织回答”。切片决定资料怎样被拆分,检索和召回决定找回哪些候选内容,生成负责理解与表达,引用负责追溯。它能让 AI 更贴近指定资料,但效果仍受资料质量、检索能力、权限、版本和模型判断限制。把这些环节都管好,RAG 才会从一个技术名词变成可靠的业务工具。
系列导读
这是“AI 科普入门”系列第 4 篇。上一篇:提示词不是咒语:怎样把问题对 AI 说清楚?;下一篇:向量与 Embedding:AI 如何判断两句话“意思相近”?