RAG 即检索增强生成（Retrieval - Augmented Generation ），是一种结合检索技术和生成模型的人工智能方法。

Weaviate 是一个开源的向量数据库， 面向的就是RAG使用场景，给出了七种RAG架构cheat sheet。

RAG 分为两个阶段：索引阶段 和 查询阶段，每个阶段都有超多硬核技术加持！💡

索引阶段 📂

1. Embedding model：嵌入模型，把数据变成低维向量，计算机秒懂！

2. Generative model：生成模型，文本、图像随便生成，创意无限！

3. Reranker model：重排序模型，检索结果重新排，相关性拉满！

4. Vector database：向量数据库，存储向量数据，检索快到飞起！

5. Prompt template：提示模板，指导模型生成特定格式，输出超精准！

查询阶段 🔍

1. Multimodal embedding model：多模态嵌入模型，图像、文本全搞定，统一嵌入表示！

2. Multimodal generative model：多模态生成模型，多种数据结合生成，输出超丰富！

3. LLM Graph Generator：大语言模型图生成器，生成图结构数据，复杂关系轻松搞定！

4. Graph database：图数据库，存储图结构数据，图查询操作超高效！

5. AI agent：AI 代理，代表用户执行任务，决策交互超智能！

7 种 RAG 架构 🧩

以下是Weaviate官方总结的七种RAG（Retrieval-Augmented Generation）架构的核心要点速查表，涵盖核心原理、优缺点及适用场景。

20250110093655

1. Naive RAG（朴素RAG）

• 核心原理：基于文档分块检索，直接将检索结果输入生成模型生成答案，包含检索模块（向量/关键词搜索）和生成模块（LLM）。

• 优点：简单易实现、低延迟、模块化设计。

• 缺点：检索结果质量不稳定、缺乏上下文整合、易受噪声影响。

• 适用场景：基础问答、小型知识库、对精度要求不高的场景。

---

2. Retrieve-and-Rerank RAG（检索与重排序RAG）

• 核心原理：在Naive RAG基础上增加重排序模块（如Cross-Encoder或BERT模型），优化检索结果相关性。

• 优点：提升生成质量、减少噪声干扰、支持领域优化（如法律/医学）。

• 缺点：计算成本增加、依赖重排序模型性能。

• 适用场景：高精度问答（法律文档、技术文档）。

---

3. Multimodal RAG（多模态RAG）

• 核心原理：支持多模态数据（文本、图像、视频等）的检索与生成，利用跨模态模型（如CLIP）对齐语义。

• 优点：信息表达丰富、支持跨模态查询（如图像问答）、增强上下文理解。

• 缺点：实现复杂、计算资源消耗高、需多模态训练数据。

• 适用场景：电商推荐、医疗影像分析、多模态内容生成。

---

4. Graph RAG（图RAG）

• 核心原理：利用图数据库（如Neo4j）存储实体关系，通过图查询实现多跳推理和语义关联检索。

• 优点：捕捉复杂关系（因果、层级）、支持动态更新、增强推理能力。

• 缺点：图构建和维护成本高、依赖图数据质量。

• 适用场景：知识图谱问答、科研文献分析、复杂关系推理（医学/法律）。

---

5. Hybrid RAG（混合RAG）

• 核心原理：结合多种检索策略（如向量检索+关键词检索+图检索），融合结果后生成答案。

• 优点：检索覆盖率高、灵活适配多场景、抗噪声能力强。

• 缺点：系统复杂度高、需协调多模块权重。

• 适用场景：知识库质量参差不齐、需多策略互补的场景。

---

6. Agentic RAG (Router)（路由RAG）

• 核心原理：通过智能路由器（基于LLM）动态分配查询至不同模块（如专用知识库、API等）。

• 优点：动态负载均衡、支持多数据源、模块扩展性强。

• 缺点：路由策略设计复杂、多模块整合难度高。

• 适用场景：多任务类型（跨API/数据库）、企业知识管理。

---

7. Agentic RAG (Multi-Agent)（多智能体RAG）

• 核心原理：多个智能体协同处理任务（如并行检索数据库、搜索引擎、邮件系统），整合结果生成答案。

• 优点：高度模块化、并行处理效率高、支持复杂任务自动化。

• 缺点：代理协作机制复杂、通信开销大。

• 适用场景：超大规模任务（多轮对话、跨工具协作）。

---

对架构选择的建议

1. 基础场景：优先选择Naive RAG或Retrieve-and-Rerank，平衡速度与精度。

2. 多模态需求：采用Multimodal RAG，结合CLIP等跨模态模型。

3. 复杂关系推理：Graph RAG或Hybrid RAG更适合知识图谱和结构化数据。

4. 动态任务分配：Agentic RAG系列适用于多数据源、多工具集成的企业级应用。

---

扩展工具与资源

• Weaviate部署：通过Docker快速部署并集成LangChain实现RAG流程。

• 优化技巧：使用混合搜索（alpha参数调优）、查询重写（Query Rewriting）、自剪枝（Autocut）提升生成质量。

• 开源框架：参考TrustRAG项目实现模块化设计。

Spring Boot 集成 LLM 的 RAG（Retrieval-Augmented Generation）架构框架、技术选型与核心工作流

Springboot使用RAG的流程一般是这样的：

`用户请求 → Spring Boot 应用 → 检索模块（Weaviate） → 生成模块（LLM） → 返回回答                ↑               数据预处理（分块/向量化） → 向量数据库`  

RAG 系统分为三大核心模块

1. 数据预处理模块

• 负责文档加载、解析（PDF/Word/HTML等）、分块（按段落、句子或固定长度）和向量化。

• 支持多模态数据（文本、图像等）的分块和向量生成。

3. 检索模块

• 基于向量数据库（如 Weaviate）实现语义搜索，支持混合检索（向量+关键词）。

• 可选重排序（Reranking）模块优化检索结果。

5. 生成模块

• 集成大语言模型（LLM），将检索到的上下文与用户查询结合生成最终回答。

• 支持多种 LLM 服务（如 OpenAI、本地部署的 Llama 3 等）。

核心工作流

1. 数据准备阶段

1. 文档解析：从本地文件、数据库或 API 加载原始文档。

2. 分块处理：根据语义或固定长度切割文档，保留元数据（来源、时间等）。

3. 向量生成：调用嵌入模型（如 OpenAI text-embedding-3-small）生成块向量。

4. 向量存储：将向量与原始文本存入向量数据库，建立索引。

2. 用户查询阶段

1. 查询向量化：将用户输入转换为向量。

2. 上下文检索：

• 通过向量数据库检索 Top-K 相关文档块。

• 可选重排序模型（如 Cohere Rerank）优化结果。

4. 上下文过滤：基于阈值（如相似度 > 0.7）过滤低质量结果。

3. 回答生成阶段

• Prompt 构建：将用户查询与检索结果组合为 LLM 输入，例如：

`“基于以下上下文回答问题：     [上下文1] ...     [上下文2] ...     问题：{用户输入}”`  

• 模型调用：发送 Prompt 至 LLM，配置生成参数（温度值、最大长度等）。

• 结果后处理：过滤敏感内容、格式化输出（如 Markdown 表格、列表）。

---

技术选型建议

1. 向量数据库

• Weaviate：支持多模态、内置混合搜索（BM25 + 向量）、低延迟，适合复杂查询场景。

• Qdrant：轻量级、高吞吐量，适合中小规模部署。

• Milvus：分布式架构，适合超大规模数据（亿级向量）。

2. LLM 服务

• 云端 API：OpenAI GPT、DeepSeek。

• 本地部署：Ollama、vLLM。

3. 数据分块策略

• 固定长度分块：简单但可能破坏语义（如 512 字符）。

• 语义分块：基于 NLP 模型（如 Sentence-BERT）识别段落边界。

• 多粒度分块：结合粗粒度（文档级）和细粒度（段落级）提升召回率。

4. 检索策略

• 纯向量检索：适合语义相关性强的场景（如问答）。

• 混合检索：结合向量与关键词（BM25），提升多样性和覆盖率。

• 图增强检索：集成知识图谱（如 Neo4j）支持多跳推理。

---

扩展与优化方向

性能优化 :

• 异步处理分块和向量生成。

• 缓存高频查询结果（如 Redis）。

质量提升 :

• 引入自检机制（Self-RAG）让 LLM 评估自身回答的可靠性。

• 动态调整检索范围（如小范围精确检索 + 大范围兜底检索）。

安全与合规 :

• 敏感信息过滤（如 PII 数据脱敏）。

• 审计日志记录查询和生成过程。

那么，如何系统的去学习大模型LLM？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《AI大模型入门+进阶学习资源包**》，扫码获取~

篇幅有限，部分资料如下：

👉LLM大模型学习指南+路线汇总👈

💥大模型入门要点，扫盲必看！

💥既然要系统的学习大模型，那么学习路线是必不可少的，这份路线能帮助你快速梳理知识，形成自己的体系。

路线图很大就不一一展示了 （文末领取）

👉大模型入门实战训练👈

💥光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉国内企业大模型落地应用案例👈

💥两本《中国大模型落地应用案例集》 收录了近两年151个优秀的大模型落地应用案例，这些案例覆盖了金融、医疗、教育、交通、制造等众多领域，无论是对于大模型技术的研究者，还是对于希望了解大模型技术在实际业务中如何应用的业内人士，都具有很高的参考价值。 （文末领取）

👉GitHub海量高星开源项目👈

💥收集整理了海量的开源项目，地址、代码、文档等等全都下载共享给大家一起学习！

👉LLM大模型学习视频👈

💥观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。 （文末领取）

👉640份大模型行业报告（持续更新）👈

💥包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

👉获取方式：

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓