很多企业上大模型，问自己公司的事答得一塌糊涂，原因是模型没见过企业内部知识。RAG（检索增强生成）就是给模型外挂一个"企业资料库"，回答前先去库里找依据再生成，既能用上内部信息，又能让答案带出处、可核查。但RAG搭不好，会出现"答非所问""张冠李戴""编出处"三类硬伤。AI落地做知识库，关键不在模型多强，而在检索这条链路。下面把RAG落地拆成五步，每步讲清坑在哪、怎么避。

第一步：文档治理，先清再喂

RAG的上限由喂进去的文档质量决定。很多企业的知识散在共享盘，版本混乱、过期未删、命名随意，直接喂进去模型会把三年前废止的制度当成有效答案。落地前先做文档治理：清掉过期版本、统一命名、标注生效范围和适用部门、拆分大文件为段落级。一个实用做法是给每份文档打"生效日期、适用对象、版本号"三个标签，检索时优先最新版。治理这步没人愿意做，却是RAG准不准的地基——垃圾进，模型再强也是垃圾出，最后变成"AI总答错"的信任崩塌。一个常见误区是直接把扫描版PDF原样丢进去，模型读不到图里的字，检索自然全空，正确做法是先OCR并转成结构化文本再喂。文档治理看似枯燥，却决定了RAG项目是活是死，这一步省下的时间后面都要加倍还。

第二步：切分与向量化，粒度决定召回

文档切块（chunk）的粒度直接影响召回质量。切太粗，检索命中的块里混着无关内容，模型被干扰；切太细则上下文断裂，答案不完整。经验粒度是每段三百到八百字、以自然段落或小节为界，保留标题作为上下文。向量化选成熟的中文embedding模型即可，不必追最新最大。关键是切分时带上"文档标题+章节"作为元信息，检索回来模型才知道这段出自哪份文件。很多项目召回差，根因就在切分随手按字数硬切，把一句话拆成两半。

第三步：检索策略，混合检索胜纯向量

纯向量检索容易漏掉精确匹配（如产品型号、政策编号），纯关键词检索又不懂语义。稳妥做法是混合检索：向量召回语义相近的，关键词命中精确的，再按得分融合并重排。还要加一层"元数据过滤"，例如只搜"2026年生效且适用销售部"的文档，避免跨版本混答。上线后必须做召回评估：抽五十个真实问题，看检索回来的前几段里含不含正确答案，这一关不过，后面生成再漂亮也白搭。检索是RAG的命门，值得花最多精力调。

第四步：生成与溯源，让答案可核查

生成阶段要让模型"只基于检索内容作答、不得编造、不知就说不知道"，并输出引用来源（文档名+段落）。做法是提示词里硬性约束：必须引用检索片段、禁止补充外部知识、无依据时明确告知。前端展示时把来源链接附在答案后，用户一点就能核对。这既能防编造，也把责任边界划清——AI是"基于资料回答"，最终判断留给人。合规上特别重要：对客、对内的关键答复都要可溯源，否则一旦答错且无法核查，信任和风险的代价都很高。

第五步：运营与迭代，质量是养出来的

RAG上线不是终点。要建三件事：一是"答不准清单"，每周收集答错或答偏的问题，定位是文档缺失、切分不当还是检索阈值问题，逐项修；二是权限控制，按角色限制可检索的文档范围，避免AI成了绕过权限的后门；三是定期重索引，文档更新后及时重建，否则模型还在答旧版。多数企业RAG首月准确率只能到七八成，靠两三个月运营养到九成以上。质量是运营养出来的，不是上线那天定死的，这条认知决定项目能不能活过半年。

RAG知识库的AI落地，成败在检索不在生成：先治理文档、再定切分粒度、用混合检索加元数据过滤保召回、生成阶段强制溯源防编造、靠运营迭代养准确率。把它当成"企业资料的可核查问答"而不是"万能聊天"，RAG就能从答非所问变成员工天天在用的知识入口，真正把沉睡的文档变成生产力。