原文请查看：www.2agi.net/blog 在人工智能领域，RAG（Retrieval-Augmented Generation，检索增强生成）技术以其独特的结合信息检索与生成的能力，为大型语言模型（LLM）的应用带来了革命性的变革。RAG通过从外部知识库中检索相关信息，并将其与用户查询一同输入给LLM，以期生成更准确、上下文相关且内容丰富的回答。尽管RAG技术的入门门槛相对较低，且技术相对成熟，但在实际应用中，为用户提供稳定可靠的RAG解决方案仍面临着一系列挑战。
概要
在过去的一年中，众多研究和实践引入了多种创新技术，推动了RAG系统的演进。本专题将深入探讨RAG技术的每个环节，包括其原理、面临的挑战以及前沿的解决方案。此外，还将分享内部项目实践经验，以帮助读者更好地理解和应用RAG技术，克服现有挑战，实现更高效、准确的知识检索与生成。
在实际应用中，RAG 还有诸多挑战：
1、知识间关系的理解缺失：传统RAG主要依赖文本相似度进行信息检索，忽略了知识间的语义关系，未能充分利用知识库中的关联信息。
2、信息冗余与整合难题：检索阶段可能产生大量冗余或重复信息，这不仅增加了生成模型的处理负担，还可能因上下文冲突导致生成结果的不准确性。
3、全局视角与深度推理能力的缺失：缺乏对全局知识结构的把握，使得传统RAG在处理需要多跳推理或复杂逻辑的问题时表现不佳。
4、系统架构的僵化与扩展性不足：线性的流程设计限制了系统的灵活性，难以适应多样化的应用场景和不断变化的用户需求。
文章精选（2AGI.NET）
RAG的2024—随需而变，从狂热到理性
1、2024年，RAG技术经历了显著变化，主要体现在架构优化和技术细节的演进，尤其是在知识提取、索引组织和检索方法方面。
2、市场需求从上半年对AI的盲目乐观转变为下半年的理性需求，预计明年将更加注重应用的实际效果。
3、TorchV作为一家专注于大模型应用的公司，通过实践探索RAG技术的最佳实践，并计划分享其内部项目经验。
15种典型RAG框架：卡内基梅隆大学最新RAG综述
1、文章详细介绍了检索增强生成（RAG）技术，包括其核心组件（检索模块和生成模块）、架构概览以及在不同领域的应用，强调了RAG在减少生成内容的“幻觉”现象、确保文本事实性和上下文适宜性方面的优势。
2、文章探讨了RAG系统的局限性，如对模糊查询的检索精度、计算成本、伦理问题（偏见和透明度），并提出了一些可能的解决方案，例如通过引入更精细的查询扩展和上下文消歧技术来提升检索技术的精准度。
3、文章还展望了RAG技术的未来发展方向，包括强化多模态融合、提升扩展性与效率、个性化与适应性、伦理与隐私考量、跨语言及低资源语言支持、高级检索机制以及与新兴技术的融合。
7个GraphRAG+17个传统RAG框架归纳
1、产业进展：文章提到了代码辅助工具PearAI的推出，它提供了代码自动生成、智能代码预测等功能，并内置了其他AI工具，这加剧了市场竞争。同时，腾讯推出了AI搜索工具ima，它整合了微信公众号文章的生态，显示了AI搜索产品本质上是内容生态和搜索技术的竞争。
2、RAG框架分类：文章将现有的RAG框架分为两大类：GraphRAG框架和传统RAG框架。传统RAG框架集成了chunk切分、向量化、存储、检索、生成等阶段，而GraphRAG框架则在传统RAG的基础上增加了实体、社区、chunk之间的关联，或原有知识图谱的知识，以提升召回和准确性。
3、框架列表：文章列出了17个传统RAG框架和7个GraphRAG框架，提供了它们的简要介绍和GitHub链接，供读者进一步探索和学习。
RAG 系统开发中的 12 大痛点及解决方案
1、文章探讨了在开发检索增强生成（RAG）系统时遇到的12个主要挑战，并为每个挑战提供了具体的解决策略。
2、挑战包括数据缺失、关键文档遗漏、文档整合限制等问题，解决方案涉及数据清洗、优化检索参数、使用reranker等技术手段。
3、文章还介绍了LlamaIndex等工具，这些工具可以帮助开发者实施解决策略，以提高RAG系统的性能和准确性。
模块化RAG：RAG新范式，像乐高一样搭建
1、文章回顾了RAG系统的发展历史，指出了传统RAG框架的局限性，并介绍了模块化RAG架构，这是一种新的范式，它通过将RAG流程分解为可组合的模块来提高系统的灵活性和可维护性。
2、模块化RAG包括六个主要模块：索引、预检索、检索、后检索、生成和编排，每个模块都负责处理特定的任务，并且可以独立优化和调整，以适应不同的应用场景和需求。
3、文章还探讨了RAG流与流模式，包括线性模式、条件模式、分支、循环模式和微调模式，这些模式展示了RAG系统如何通过不同的控制逻辑和结构来执行复杂的任务。
比GraphRAG还好的LightRAG到底是何方神圣？
1、LightRAG是一个基于图的检索增强生成（RAG）系统，它通过整合外部知识源来增强大型语言模型，以生成更准确和与上下文相关的响应。
2、LightRAG的架构包括基于图的索引阶段和双层检索阶段，它利用大型语言模型提取实体和关系，然后通过图结构和向量检索相结合的方式进行信息检索。
3、文章评估了LightRAG在生成性能、检索质量、多场景应用以及对数据变化的适应能力方面的优势，并展示了其在处理复杂查询和大规模数据集时的高效性和成本效益。
KAG开源了，知识增强掀翻RAG，性能翻倍
1、KAG框架是一种知识增强生成系统，它通过结合知识图谱与原始文本块之间的相互索引、逻辑形式引导的混合推理引擎以及基于语义推理的知识对齐，显著提升了多跳问答任务的性能。
2、KAG框架提出了LLMFriSPG，一个针对大型语言模型（LLMs）友好的知识表示框架，通过概念将实例和概念分开，以实现与LLMs更有效的对齐，并支持从数据到信息再到知识的层次化表示。
3、KAG框架在蚂蚁集团的电子政务问答和电子健康问答场景中表现出更高的准确性，并且在2wiki、MuSiQue数据集上的EM指标直接翻倍，展现了其在专业领域中提升LLMs性能的潜力。
成本降低1000倍！微软将开源超强RAG— LazyGraphRAG
1、微软研究院发布了GraphRAG的迭代版本——LazyGraphRAG，这是一个成本极低的RAG框架，其数据索引成本仅为完整版GraphRAG的0.1%，同时在生成结果的准确率和效率上有所提升。
2、LazyGraphRAG在数据索引阶段不进行预先的总结或嵌入生成，而是采用NLP名词短语提取来识别概念及其共现关系，通过图统计优化概念图，并提取层次社区结构，显著降低了成本。
3、LazyGraphRAG结合了最佳优先搜索和广度优先搜索的动态，支持本地和全局查询，适用于对成本敏感且需要高效处理全局查询的场景，如中小企业和个人开发者的内容推荐系统和项目管理工具。
所见即所得：多模态RAG正在向我们走来
1、2024年见证了多模态大模型的快速发展，特别是在理解和处理多模态数据方面取得了显著进步，多模态RAG技术开始在企业内部文档问答等场景中展现其价值。
2、文章讨论了多模态RAG的两种技术路线：一种是利用视觉模型和广义OCR技术将多模态文档转换为文本数据，另一种是直接依赖于多模态模型（VLM）来理解和回答基于图像和文字内容的问题。
3、随着技术的进步，多模态RAG系统如ColPali和ColQwen2在延迟交互编码器的帮助下，显著提升了检索精度和效率，预示着多模态RAG技术在企业级应用中的广阔前景。
AutoRAG一键锁定最佳RAG技术栈
1、AutoRAG是一个RAG（Retrieval-Augmented Generation）AutoML工具，它能够自动为用户的数据找到最佳的RAG技术栈，支持多种解析模块、切块模块以及检索、排序、生成模块。
2、AutoRAG通过简单的方法评估多种RAG模块组合，使用户能够自动评估不同RAG模块并找到最适合自己用例的RAG Pipeline。
3、文章详细介绍了AutoRAG支持的技术栈、评价指标以及RAG优化步骤，旨在帮助用户简化RAG Pipeline的评估和优化过程。
RAG黑盒被打开了，可视化RAGViz闪亮全场
1、RAGViz是由卡内基梅隆大学（CMU）开源的一个工具，它通过可视化检索文档和模型注意力来帮助用户理解生成的标记与检索文档之间的交互，可用于诊断和可视化RAG系统。
2、RAGViz具备多种功能，包括注意力可视化、文档级别的关注度展示、拖动选择用户界面、文档切换功能以及自定义上下文文档数量等，这些功能增强了用户对RAG系统内部工作机制的理解。
3、RAGViz的系统架构包含近似最近邻（ANN）索引、后端服务器、LLM推理服务器和前端用户界面四个主要组件，设计为可以独立配置，提高了系统的灵活性和可用性。
五大开源RAG（Retrieval-Augmented Generation）评估框架详解
1、文章介绍了五个开源的RAG评估框架：Ragas、Prometheus、DeepEval、Phoenix和ChainForge，这些框架提供了不同的工具和方法来评估和监控RAG系统的性能。
2、这些框架包括专为RAG系统设计的评估指标、数据收集与存储、实时监控、性能分析、问题检测以及可视化编程环境等功能，帮助开发者和数据科学家更准确地衡量和优化RAG系统。
3、随着LLM开发领域的不断发展，这些评估工具也预期会不断进化，对评估工具的准确性和效率要求将越来越高，保持对LLM评估最新发展的了解对于从事这些AI系统工作的人员至关重要。
