总结笔记-LangChain入门 | 豆包MarsCodeAI刷题

王超_
202 阅读11分钟

总结笔记-LangChain入门

什么是大语言模型

定义与背景

大语言模型（Large Language Model，LLM）是一种利用深度学习技术构建的人工智能模型，其目的在于理解和生成自然语言。大语言模型的崛起得益于近年来计算能力的提升及大量文本数据的可用性，使得训练参数量巨大的模型成为可能。

工作原理

大语言模型通常使用变换器（Transformer）架构，这是一种能够并行处理数据的神经网络结构。模型通过“自注意力机制”来捕捉词汇之间的关系，理解上下文，从而生成符合逻辑的语言输出。 image.png

训练过程

大语言模型的训练过程通常包括以下几个步骤：

  1. 数据收集：模型通过爬取互联网上的文本，收集大量的语言数据，包括书籍、文章、对话等。
  2. 预训练：利用无监督学习，模型在大量文本上进行预训练，主要任务是预测下一个词。这一阶段，模型学习到语言的基础结构和模式。
  3. 微调：在特定数据集上进行微调，以提高模型在特定任务上的表现。这一阶段可能涉及监督学习，模型根据预先标注的数据进行调整。

应用实例

大语言模型的应用范围广泛，涉及文本生成、对话系统、问答系统、翻译等领域。例如：

  • 文本生成：用户输入一个主题，模型能够生成相关的文章段落。
  • 对话系统：如智能客服，可以对用户提出的问题进行实时响应。
  • 编程助手：如GitHub Copilot，帮助开发者生成代码或提供代码建议。

局限性与挑战

尽管大语言模型展现了强大的语言处理能力，但它们仍然存在一些局限性：

  • 缺乏真实理解：大语言模型并不具备真正的理解能力，其生成的内容基于统计学习，而非深层次的语义理解。
  • 偏见与错误：模型可能会反映训练数据中的偏见，或在某些情况下生成不准确或不合适的内容。比如，模型可能会对某些群体的描述产生刻板印象。
  • 上下文限制：大语言模型在处理较长文本时可能会丧失上下文信息，导致生成的内容不连贯。

LangChain简介

定义与目标

LangChain是一个面向自然语言处理应用的开发框架，旨在简化基于大语言模型的应用程序的构建过程。其核心目标是使开发者能够快速而高效地利用大语言模型的能力，创建多种用途的应用程序。

主要特性

  1. 模块化设计：LangChain采用模块化的架构，允许开发者根据项目需求灵活组合不同的组件。无论是简单的文本生成任务，还是复杂的多轮对话系统，开发者都可以选择合适的模块来构建自己的应用。

  2. 高度集成：LangChain能够与多个大语言模型API集成，如OpenAI的GPT系列和Hugging Face的开源模型。开发者可以根据自己的需求选择使用不同的模型，获得更好的性能和适用性。

  3. 灵活的工作流：LangChain支持多种工作流，可以处理数据的输入输出、API调用、结果的后处理等。这种灵活性使得开发复杂应用变得更加简单。

  4. 社区与资源：LangChain拥有一个活跃的开发者社区，提供丰富的文档、教程和示例代码，帮助开发者快速上手。

使用案例

  • 智能助手：开发者可以使用LangChain构建基于GPT模型的智能助手，能够根据用户输入生成个性化的回复。
  • 内容生成工具：使用LangChain，开发者可以创建自动化的内容生成工具，根据特定主题生成文章或社交媒体帖子。
  • 教育应用：基于大语言模型的教育应用，如智能问答系统，能够帮助学生解答问题，提供学习建议。

实际应用中的优势

在实际应用中，LangChain提供了一种便捷的方式来访问和使用大语言模型。例如，若开发者希望创建一个聊天机器人，使用LangChain可以快速搭建基本框架，而无需深入掌握底层的API调用细节。这种便利性使得开发者能够更专注于应用的核心逻辑和用户体验。

局限性

尽管大语言模型在语言生成和理解方面表现出色，但它们并不真正理解语言的内涵。模型缺乏人类的情感、意识或真正的理解力。在某些情况下，它们可能生成错误、不合理或偏离主题的内容。因此，在使用这些模型时，需对此有清醒的认识。

常见的参数-控制输出的内容和样式

0f6201073332b63c33e6576431a743e.jpg

模型调用对比

以下是Chat模型和Text模型的详细对比，帮助用户了解两者在使用场景、输入输出格式等方面的差异。

特性Chat模型Text模型
输入格式消息列表（包含多个角色）单个字符串，通常是一个提示
适用场景交互式对话，适合多轮次交互简单文本生成，适合单轮任务
角色设定包含system（系统）、user（用户）、assistant（助手）角色无角色设定
对话历史管理方便管理和传递对话历史不支持回忆和利用历史信息
输出控制生成的消息包含角色信息，便于理解上下文生成的文本简单直接
生成内容质量通常生成更加完整和连贯的回答生成的文本可能较为零散

特别点

有两个专属于Chat模型的概念，一个是消息，一个是角色！

先说消息，消息就是传入模型的提示。此处的messages参数是一个列表，包含了多个消息。每个消息都有一个role（可以是system、user或assistant）和content（消息的内容）。系统消息设定了对话的背景（你是一个很棒的智能助手），然后用户消息提出了具体请求（请给我的花店起个名）。模型的任务是基于这些消息来生成回复。

再说角色，在OpenAI的Chat模型中，system、user和assistant都是消息的角色。每一种角色都有不同的含义和作用。

  • system：系统消息主要用于设定对话的背景或上下文。这可以帮助模型理解它在对话中的角色和任务。例如，你可以通过系统消息来设定一个场景，让模型知道它是在扮演一个医生、律师或者一个知识丰富的AI助手。系统消息通常在对话开始时给出。
  • user：用户消息是从用户或人类角色发出的。它们通常包含了用户想要模型回答或完成的请求。用户消息可以是一个问题、一段话，或者任何其他用户希望模型响应的内容。
  • assistant：助手消息是模型的回复。例如，在你使用API发送多轮对话中新的对话请求时，可以通过助手消息提供先前对话的上下文。然而，请注意在对话的最后一条消息应始终为用户消息，因为模型总是要回应最后这条用户消息。

在使用Chat模型生成内容后，返回的响应，也就是response会包含一个或多个choices，每个choices都包含一个message。每个message也都包含一个role和content。role可以是system、user或assistant，表示该消息的发送者，content则包含了消息的实际内容。

一个典型的response对象包含以下各个字段： image.png

这就是response的基本结构，其实它和Text模型返回的响应结构也是很相似，只是choices字段中的Text换成了Message。你可以通过解析这个对象来获取你需要的信息。例如，要获取模型的回复，可使用 response['choices'][0]['message']['content']。

适用场景分析

  • Chat模型：适用于需要连续对话的应用场景，如客服机器人、智能助手等。在这些场景中，上下文非常重要，使用消息列表可以提供更多的信息和历史记录，使得生成的内容更加自然。
  • Text模型：适合需要单次生成文本的应用，如文案撰写、标题生成等。在这些情况下，用户只需提供简短的提示即可获得想要的文本输出。

调用示例代码

在使用LangChain进行大语言模型的调用时，开发者可以选择使用Text模型或Chat模型。以下是这两种模型的具体调用示例代码。

调用Text模型

下面是使用LangChain调用Text模型的示例代码。此示例中，我们通过OpenAI的API生成文本。

import os

# 设置OpenAI API密钥
os.environ["OPENAI_API_KEY"] = '你的Open API Key'

from langchain.llms import OpenAI

# 初始化OpenAI LLM
llm = OpenAI(model="gpt-3.5-turbo-instruct", temperature=0.8, max_tokens=60)

# 生成文本
response = llm.predict("请给我的花店起个名")

# 打印生成的内容
print(response)
代码解析
  • os.environ["OPENAI_API_KEY"]：设置OpenAI的API密钥，以便能够进行API调用。
  • OpenAI(model="gpt-3.5-turbo-instruct", ...)：初始化LLM对象，选择使用gpt-3.5-turbo-instruct模型，设置生成文本时的温度和最大令牌数。
  • llm.predict(...)：向模型发送请求，生成与输入提示相关的文本。

调用Chat模型

以下是使用LangChain调用Chat模型的示例代码。在这个示例中，我们使用OpenAI的Chat模型生成对话内容。

import os

# 设置OpenAI API密钥
os.environ["OPENAI_API_KEY"] = '你的Open API Key'

from langchain.chat_models import ChatOpenAI
from langchain.schema import HumanMessage, SystemMessage

# 初始化ChatOpenAI
chat = ChatOpenAI(model="gpt-4", temperature=0.8, max_tokens=60)

# 定义消息列表
messages = [
    SystemMessage(content="你是一个很棒的智能助手"),
    HumanMessage(content="请给我的花店起个名")
]

# 生成聊天响应
response = chat(messages)

# 打印生成的响应
print(response)
代码解析
  • SystemMessage和HumanMessage：分别定义系统消息和用户消息，帮助模型理解上下文。
  • ChatOpenAI(model="gpt-4", ...)：初始化Chat模型对象，选择gpt-4模型并设置生成时的温度和最大令牌数。
  • chat(messages)：发送消息列表到模型，生成与上下文相关的响应。

调用示例比较表

特性Text模型Chat模型
输入格式单一文本提示消息列表（包含系统和用户消息）
上下文管理不支持上下文历史支持上下文管理，通过多轮对话处理信息
适用场景简单文本生成，如文案撰写交互式对话系统，适合多轮次交流
系统消息不支持系统角色定义支持系统消息，提供上下文角色信息
示例代码response = llm.predict("请给我的花店起个名")response = chat(messages)
生成质量生成单次文本，适合直接请求生成连贯对话，适合多轮交互

通过以上示例和比较，开发者可以根据实际需求选择合适的模型进行调用，以增强应用的功能和用户体验。无论是简单的文本生成还是复杂的对话系统，LangChain都能提供灵活的支持。

思考题解答

  1. LangChain的核心价值在哪里？

    LangChain的核心价值在于其模块化设计与集成能力。虽然直接调用OpenAI API能实现基本功能，但LangChain提供了更高层次的抽象，使得开发者能够快速构建复杂的应用，减少了开发时间和复杂性。此外，LangChain支持多种大语言模型的接入，开发者可以根据需求灵活选择，提升了应用的多样性。

  2. 如何在LangChain中使用HuggingFace的开源模型？ 使用HuggingFace的开源模型非常简单。通过LangChain的HuggingFaceHub接口，用户可以轻松调用HuggingFace库中的模型。例如，可以使用以下代码：

    from langchain import HuggingFaceHub
llm = HuggingFaceHub(model_id="bigscience/bloom-1b7")
response = llm("请给我的花店起个名")
print(response)

    这样，开发者就可以利用HuggingFace平台提供的多样化模型来满足不同的需求。

  3. 除了文本生成，哪些类别的大语言模型存在？

    大语言模型除了文本生成模型外，还有以下几类：

    • 文本嵌入模型：例如BERT，主要用于文本的向量化表示，适合信息检索、推荐系统等任务。
    • 问答模型：如T5，专门设计用于问题回答，可以根据给定问题快速生成答案。
    • 序列到序列模型：例如Bart，适合翻译、摘要生成等任务。
    • 音频和图像生成模型：如DALL-E，主要用于图像生成和编辑。 这些模型各自有不同的应用场景和侧重点，使得大语言模型的研究与应用更加广泛和深入。
avatar
文章
阅读
粉丝