AI大模型学习之白话笔记（六）-- RAG

小门小道
834 阅读5分钟

在前面的大模型应用技术架构里我们已经有提到过RAG。

在人工智能领域，我们广泛使用大规模语言模型来处理自然语言理解和生成任务。这些模型像GPT-3和BERT这样的深度学习模型需要大量数据训练，以便他们能够理解和生成文本。

但是，正如我们所见，当模型试图生成不熟悉的内容或是在有限信息下作出判断时，它们偶尔会出现“幻觉”现象，即产生不准确或完全不相关的信息。

为了解决这个问题，一个名为"检索增强生成" (Retrieval Augmented Generation，简称RAG) 的技术被提出。

大模型的“幻觉”问题

大模式的“幻觉”问题，是指模型在没有足够依据的情况下创造出错误或无意义的信息。 例如，一个语言模型可能会错误地断定某个历史事件的时间，或在回答问题时创造出不存在的事实。这是由于模型在训练数据中未见过足够的相关示例，或是因为它过度依赖于它在数据中看到的模式。

什么是大模型检索增强生成（RAG）?

RAG的全称是Retrieval-Augmented Generation，中文翻译为检索增强生成。 RAG是一种新颖的机器学习方法，它结合了预训练的语言模型和检索系统。其核心思想是在进行文本生成之前，先通过一个检索系统查找相关的文档或信息，然后把这些信息“融合”到语言模型中，辅助模型生成更准确和丰富的内容。

4c306e6620b0e6f1db12eb556fe40caa.jpeg

RAG的特点

RAG通过以下几个特点来弥补单纯的语言模型：

  • 信息检索: RAG使用检索系统（比如Elasticsearch）来从大规模数据集中检索相关文档或数据。
  • 上下文融合: 将检索到的信息和原始的问题或输入融合，构造一个扩展的上下文。
  • 知识增强: 通过上下文融合，模型可以利用外部检索到的知识来指导生成过程，这可以显著减少“幻觉”。
  • 快速更新：实施RAG需要矢量数据库等技术，这些技术可以快速编码新数据，并搜索该数据以输入给LLM模型。
  • 灵活性: RAG模型可以与不同的检索库和不同的语言模型结合使用。
  • 不需要训练：RAG可以通过查询最新的外部数据源来处理频繁变化的数据，不需要训练，模型大小不会产生变化。

RAG能解决的问题

再把之前举过的例子搬出来，比如春节放假前，你需要请个假多休息几天，那你需要知道你还剩几天年假，以及公司的请假制度，需要提前多久申请，春节期间是否允许请假，最高可以请几天，以前我们需要问好几个同事，或者查好几个资料，然后通过衡量得出该怎么请假，那如果将员工信息、考勤系统、公司各种规章制度都通过一个叫做Embeddings的技术塞到大模型里面，Embeddings可以理解为向量化，就是把自然语言的知识转换成大模型可以识别的向量，保存到向量数据库，这样整合到大模型后，我们只需要向这个大模型提问，大模型通过检索这些信息，经过推理能直接给你一个最优的请假方案。

RAG能够解决多种类型的问题，比如：

  • 事实查验和知识问答: 确定所提供的陈述是否准确，或者在问答任务中给出准确的回答。
  • 内容生成: 生成文章或报告时，确保内容的准确性和涉及的详细程度。
  • 数据稀缺任务: 对于少见话题的问题回答，RAG可以从检索文档中提取相关信息。

搭建专属私有大模型

现在，让我们来看如何使用RAG搭建一个专属的私有大模型。这是一个简化的步骤介绍：

步骤1：创建检索数据库

from haystack.document_stores.elasticsearch import ElasticsearchDocumentStore
document_store = ElasticsearchDocumentStore(
    host="localhost", username="", password="", index="document"
)
documents = [...]  # 这里的documents是你的数据集合，每一个元素是一个文档
document_store.write_documents(documents)

步骤2：设置检索器

from haystack.retriever.sparse import ElasticsearchRetriever
retriever = ElasticsearchRetriever(document_store=document_store)

步骤3：初始化RAG模型

from transformers import RagTokenizer, RagRetriever, RagTokenForGeneration
tokenizer = RagTokenizer.from_pretrained("facebook/rag-token-nq")
retriever = RagRetriever.from_pretrained(
    "facebook/rag-token-nq", retriever=retriever
)
model = RagTokenForGeneration.from_pretrained(
    "facebook/rag-token-nq", retriever=retriever
)

步骤4：使用RAG进行预测

inputs = tokenizer(question, return_tensors="pt")
with tokenizer.as_target_tokenizer():
    generated = model.generate(**inputs)
print(tokenizer.decode(generated[0], skip_special_tokens=True))

以上代码展示了如何使用Transformers库中的RAG组件创建和使用RAG模型。

注意，这里只是一个构建RAG模型的框架，实际应用中需要大量定制工作来适应特定的任务和数据。

在使用过程中，模型开发者需要注意：

  • 细心构建和维护检索数据库，以保证模型能够检索到高质量和相关性高的信息。
  • 细化模型配置和超参数调节，来适应具体的应用场景。
  • 考虑隐私和数据安全问题，尤其是处理敏感信息时。

通过以上步骤，你将拥有一个工作原型，即使是刚入门的读者也能够开始使用RAG构建模型。

不过，RAG的最佳实践方式并没有一个通用完整的方案， 我们可以基于此对检索器和生成器微调进行更深入的开发和优化。

欢迎关注我的公众号“小门小道”，原创文章第一时间推送。

avatar
文章
阅读
粉丝