大模型应用技术与思考

介绍了如果评估 RAG 系统和评估框架 Ragas，并实际上手测试了 GraphRAG 和 RAPTOR RAG 的性能指标。

微软推出GraphRAG，革新问答系统能力，通过详尽的三阶段——数据预处理、图构建与社区结构生成，有效提升对复杂信息的整合与理解。本文深入技术细节，提供了本地运行实例的全面指南，借助Neo4j实现图的

本文探讨了如何优化RAG中生成环节的各种优化策略，包括提示词工程和模型微调，具体分析了序贯、条件、分支和循环流程等不同的RAG管道设计以及 Agentic RAG的构建策略

优化RAG检索： 检索前：问题重写、子问题生成、Step-Back提示、HyDE。 检索中：元数据过滤、混合检索、Embedding微调、多路召回。 检索后：重排序、去重、内容选择压缩。

解析阶段涉及非结构化数据的处理，如图像和视频的转换，而切片则需要找到合适的文档块大小以提高检索效率。最后，通过向量存储和元数据过滤，我们优化了索引结构，以确保生成更准确和相关的结果。

文章探讨了RAG（检索增强生成）技术，一种优化大模型效果的方法。Naive RAG作为最简单的RAG系统，通过索引、检索和生成三个步骤，利用文档嵌入和向量数据库，提升模型生成准确性和信息丰富度。

优化大模型输出的方法包括改进提示词、使用 RAG 增强信息，以及通过微调提升表现。清晰提示和思维链能显著提升效果，RAG 添加相关信息，微调融入新知识。这些方法结合使用可最大化模型效果。