1Naive RAG朴素RAGNaive RAG属于RAG系统的最基本框架框架只有单一的向量检索直接把检索出来的相关文档喂给大模型增强生成局限性检索依赖文本词汇匹配无法感知语义关联并且无法间接匹配对语义的理解能力不足缺乏对query的预处理回答内容可能会过于宽泛。整个RAG系统依赖单一的检索技术优化只能局限于检索技术。2advanced RAG高级RAG从检索前检索时检索后三个方面引入新的技术手段检索前分别进行查询重写查询扩展查询路由Query Rewriting查询重写将用户原始查询改写为语义更加准确的格式Query Expansion查询扩展对用户查询添加上下文扩大检索范围使检索结果更准确。查询路由将用户查询分发到不同的最适合的知识库中检索时采用向量检索 关键词检索其实就是检索前做的一系列操作进行检索。Hybrid混合检索(BM25稀疏 向量稠密检索 RRF融合) 也被叫做Hybrid RAG但是不完全准确Hybrid只是一种检索策略不能和advanced RAG相并列检索后Reranker重排序对召回文档重排序最相关结果靠前总结对召回文档进行摘要提炼关键信息融合对信息进行融合形成完整连贯的背景利于模型理解优点检索质量显著提升缺点整个过程是写死的流水线简单问题浪费算力成本增加整个RAG系统复杂度提升无法动态选择路径。3Modules RAG模块化RAG将整个RAG流水线插接成独立模块检索排序生成模块解耦可以更加灵活组合或者替换优点灵活便于扩展和维护缺点设计复杂模块间协作需要设计外层全局调度Routing路由模块也就是 Orchestrator 调度器 接收用户提问分析 query 的难度、类型决定接下来该调用哪些内部 RAG 子模块、走哪一条执行路径。简单问题直接走 RetrieveRead复杂多跳问题选 Rewrite→Retrieve→Rerank知识库没有答案切到 Search 联网搜索。Search外部联网搜索 访问互联网搜索引擎在线获取外部网页资料。当本地向量知识库检索不到内容的时候由 Routing 调度切到 Search 做兜底。Predict生成预测 大模型最终生成答案输出拿到检索到的上下文之后交给大模型 Predict 输出最终回答。Fusion结果融合多路检索得到多份文档片段做合并、去重、结果融合。可以把 BM25 关键词检索 向量检索的结果融合在一起。Demonstrate示例示范 / 少样例 给大模型提供样例提示提供一些问答示范样例引导模型的输出格式、回答思路。Memory记忆模块保存多轮对话历史、过往检索结果实现会话记忆记住用户之前问过的内容内层 RAG 核心检索子模块Retrieve检索器从本地向量库 / 知识库拉取相关文档片段可以是 BM25 关键词检索、向量 embedding 检索。就是传统 RAG 最核心的召回步骤。Rewrite查询改写Query 重写对用户原始问题做改写、扩写、拆分。多跳问题可以把一个复杂问句拆成好几个子问题再分别检索。Rerank重排序 / 重排器 对 Retrieve 召回出来的一堆文档做排序过滤掉相关性低chunk保留最相关的片段Read读取解析 读取拿到的文档 chunk理解、提炼文档里面的信息相当于模型阅读理解拿到检索回来的上下文内容整个过程不再是固定流水线根据query做不同响应简单问题直接走向量检索跳过重排复杂多跳问题调度器自动做问题拆分多次迭代检索。知识库查不到自动调用联网搜索工具兜底优点动态路由按需调用组件适配不同复杂度的query查询缺点架构变复杂增加调度大模型带来的额外延迟和成本4图RAG结合知识图谱通过实体关系结构化存储与多跳检索补充向量检索遗漏的关联信息适合复杂推5智能体RAG1引入 Agent 作为编排层模型可自主判断信息充足度、动态调整检索策略、进行多轮反思2代价延迟高、成本高、不确定性大需设置迭代上限和降级策略3适用复杂多跳推理、高价值任务、对延迟不敏感的场景Agent RAG 对比 传统RAG普通RAG流程写死比如advanced RAG 不管问题的难易程度固定执行QueryRewrite - Hybrid检索 - Reranker - LLM生成Agent-RAG有状态的循环工作流分析用户问题判断当前上下文信息是否够用不够用 - 调用什么工具- 获取检索结果 - 进行评估是否可以现在给出答案 - 如果召回质量不够就继续改写query再次检索直到生成最终答案或者达到最大迭代次数直接退出self-RAGAgent RAG经典范式
