检索增强生成（RAG）与向量数据库总结

海边捡石子
83 阅读7分钟

1. 问题： 什么是检索增强生成（Retrieval Augmented Generation, RAG）？

它试图解决大型语言模型的哪些问题？请简述其工作流程。

技能点：

RAG定义、LLM幻觉、知识过时、RAG工作流程（检索、增强、生成）

答案：

检索增强生成（RetrievalAugmented Generation, RAG） 是一种将预训练的大型语言模型（LLM）与外部知识库检索相结合的技术框架。其核心思想是在LLM生成文本之前，先从一个大规模的、可更新的知识源（如文档集合、数据库）中检索相关的上下文信息，然后将这些检索到的信息作为额外的上下文提供给LLM，辅助其生成更准确、更相关、更基于事实的回答。

RAG试图解决大型语言模型的以下主要问题：

  1. 幻觉 (Hallucination)： LLM有时会生成看似合理但实际上是虚假或不准确的信息。这是因为LLM的知识主要来自于其预训练数据，当被问及训练数据中未包含或不明确的信息时，它们可能会“编造”答案。

  2. 知识过时 (Outdated Knowledge)： LLM的知识截止于其预训练数据的最后更新时间。对于此后出现的新信息或发生变化的旧信息，LLM无法感知，导致其回答可能过时。

  3. 缺乏领域特异性知识 (Lack of Domain-Specific Knowledge)： 通用LLM可能缺乏特定领域或组织的专业知识，导致在处理专业问题时表现不佳。

  4. 缺乏透明度和可解释性 (Lack of Transparency and Interpretability)： LLM的决策过程通常是黑箱的，难以追溯其生成内容的来源。RAG通过明确指出信息来源，可以提高答案的可信度和可追溯性。

  5. 高昂的微调成本： 对于需要特定知识的任务，通过微调（Fine-tuning）整个LLM来注入新知识成本非常高昂且不灵活。RAG提供了一种更轻量级、更动态地引入外部知识的方式。

RAG的工作流程通常包括以下步骤：

  1. 用户查询 (User Query)： 用户提出一个问题或指令。

  2. 信息检索 (Retrieval)：

▪ 查询编码/转换： 将用户查询转换为适合检索的表示形式，通常是将其编码为一个向量（embedding）。

▪ 知识库检索： 使用编码后的查询在外部知识库中进行相似性搜索，找出与查询最相关的文档片段或数据块。这个知识库通常预先被处理并索引（例如，文档被分割成块，每个块被编码为向量并存储在向量数据库中）。

▪ 常用的检索技术： 基于向量的相似度搜索（如余弦相似度、点积）、关键词搜索，或两者的混合。3. 上下文增强 (Augmentation / Contextualization)：

▪ 将检索到的相关信息（例如，top-k个最相关的文档片段）与原始的用户查询整合成一个新的、增强的提示（prompt）。这个增强的提示为LLM提供了额外的、与查询相关的上下文。

  1. 文本生成 (Generation)：

▪ 将增强后的提示输入给大型语言模型（LLM）。

▪ LLM基于原始查询和检索到的上下文信息来生成最终的回答或文本。简而言之，RAG的工作流程可以概括为：Query -> Retrieve -> Augment ->Generate。

通过这种方式，RAG使得LLM能够利用外部的、最新的、领域特定的知识来生成回答，从而显著提高了回答的准确性、相关性和可靠性，同时减少了幻觉现象。

2. 问题： 什么是向量数据库（Vector Database）？

它在RAG中扮演什么角色？列举几种常见的向量数据库。

技能点：

向量数据库定义、向量嵌入、相似性搜索、ANN算法、RAG中的应用、常见向量数据库（Pinecone, Weaviate, Milvus, Chroma, FAISS）

答案：

向量数据库（Vector Database） 是一种专门设计用于存储、管理和高效检索高维向量数据的数据库系统。这些高维向量通常是文本、图像、音频、视频等非结构化数据通过嵌入模型（Embedding Model）转换而来的数学表示，称为向量嵌入（VectorEmbeddings）。向量数据库的核心能力是进行快速且可扩展的相似性搜索（SimilaritySearch）或最近邻搜索（Nearest Neighbor Search）。

向量数据库在RAG中扮演的角色：

在检索增强生成（RAG）框架中，向量数据库扮演着至关重要的外部知识库存储和高效检索的角色。具体来说：

1. 存储知识的向量表示：

▪ 首先，需要将外部知识源（如大量文档、网页、产品手册等）进行预处理。这通常包括将文档分割成较小的文本块（chunks）。

▪ 然后，使用一个合适的嵌入模型（如Sentence-BERT, OpenAI Adaembedding model等）将每个文本块转换为一个高维向量嵌入。

▪ 这些生成的向量嵌入连同其对应的原始文本块（或其元数据、ID）一起存储在向量数据库中。

2. 高效执行相似性搜索：

▪ 当用户提出查询时，该查询也会被同一个嵌入模型转换为一个查询向量。

▪ RAG系统使用这个查询向量在向量数据库中执行相似性搜索，目的是找到与查询向量在语义上最相似的文本块的向量。▪ 向量数据库利用其内置的近似最近邻（Approximate Nearest Neighbor,ANN）搜索算法（如HNSW, IVFADC, LSH等）来快速找到top-k个最相似的向量，即使在数十亿级别的向量集合中也能保持较低的延迟。

3. 提供上下文给LLM：

▪ 检索到的top-k个最相似的向量所对应的原始文本块，被认为是与用户查询最相关的上下文信息。

▪ 这些文本块随后被用来增强LLM的输入提示，帮助LLM生成更准确、更相关的回答。

因此，向量数据库是RAG系统中实现高效、可扩展知识检索的关键基础设施。没有向量数据库，从大规模知识源中实时检索相关信息将会非常困难和低效。

常见的向量数据库：

  • Pinecone: 商业化的、完全托管的向量数据库服务，易于使用和扩展。
  • Weaviate: 开源的向量搜索引擎，支持GraphQL接口，可以存储对象和向量嵌入，并支持模块化扩展（如问答模块）。
  • Milvus: 开源的向量数据库，为大规模向量相似性搜索和分析而设计，支持多种ANN索引和标量过滤。
  • Chroma: 开源的、以开发者为中心的嵌入数据库，易于在本地运行和集成到Python应用中，特别适合快速原型开发。
  • FAISS (Facebook AI Similarity Search): 由Facebook AI开发的一个高效相似性搜索库，虽然它本身是一个完整的数据库系统（不处理存储、元数据等），但它是许多向量数据库和搜索引擎的底层核心组件。
  • Qdrant: 开源的向量数据库，注重性能和可扩展性，提供丰富的过滤和搜索功能。
  • Elasticsearch / OpenSearch: 虽然它们是传统的全文搜索引擎，但也增加了对向量相似性搜索的支持（通常称为k-NN搜索）。

选择哪个向量数据库通常取决于具体的应用需求，如数据规模、查询延迟要求、部署方式（云托管 vs. 自托管）、开源与否、社区支持以及特定的功能特性等。

avatar
文章
阅读
粉丝