LangChain 模型 I/O

橙子妹妹
113 阅读5分钟

模型 I/O 过程解析

  1. 输入提示（Prompt）

    • 在 LangChain 中，提示模板（Prompt Template）是实现与语言模型交互的第一步。我们通过模板定义了输入的格式，以便模型能够理解并生成合适的回应。LangChain 提供了多种方式帮助我们创建动态且可定制的提示，确保根据不同场景自动生成相应的输入。

  2. 调用语言模型（Model Invocation）

    • 一旦创建了输入提示，接下来便是调用语言模型进行处理。在 LangChain 中，模型调用的接口是高度抽象化的，支持多个主流语言模型的无缝切换。我们只需要通过统一的 API 进行调用，而不必关注模型本身的实现细节。

  3. 输出解析（Output Parsing）

    • 最后，LangChain 提供了强大的输出解析功能，使得模型的输出不仅限于文本形式，而是可以转化为程序能够处理的结构化数据。在实际应用中，生成的文本通常需要经过进一步的结构化处理，以便于程序自动化处理或展示。

提示模板（Prompt Templates）

在开发过程中，提示模板扮演了至关重要的角色。我们以 鲜花文案生成 为例，展示了如何通过 LangChain 提示模板 创建可复用的文本格式。模板的好处是能够清晰地分离动态变量和固定内容，从而使得代码简洁、易于维护和扩展。

示例代码：

from langchain.prompts import PromptTemplate

template = """您是一位专业的鲜花店文案撰写员。\n
对于售价为 {price} 元的 {flower_name} ，您能提供一个吸引人的简短描述吗？"""

prompt = PromptTemplate.from_template(template)

通过 PromptTemplate.from_template 方法，我们创建了一个输入提示模板。这个模板通过占位符 {flower_name} 和 {price} 来接受动态输入，并生成一个完整的提示字符串。之后，我们可以将花卉名称和价格作为参数传入，动态生成个性化的文案。

调用语言模型

在生成了输入提示后，我们接下来通过 LangChain 中的模型接口调用语言模型生成响应。在本课程中，我们使用了 OpenAI 提供的 API，具体的代码实现如下：

import os
from langchain_openai import OpenAI

os.environ["OPENAI_API_KEY"] = '你的OpenAI API Key'
model = OpenAI(model_name='gpt-3.5-turbo-instruct')
input = prompt.format(flower_name=["玫瑰"], price='50')
output = model.invoke(input)

通过 model.invoke(input) 这一方法，我们将模板生成的提示输入到模型中，并得到相应的输出。此时，模型根据输入的提示内容，自动生成了一段与鲜花相关的文案。

输出解析与结构化处理

一个重要的步骤是将模型的输出转化为结构化数据。通常，模型的输出是自由文本，但为了便于程序处理和存储，我们往往需要将其转化为 JSON 或字典形式的结构化数据。

在 LangChain 中，输出解析器 使得这一过程变得简单。我们通过定义输出格式的模式，指定模型返回的字段类型，然后利用解析器将其转化为结构化格式。例如，我们希望模型生成两个字段：description 和 reason，其中 description 是文案内容，reason 是文案背后的解释。

示例代码：

from langchain.output_parsers import StructuredOutputParser, ResponseSchema

response_schemas = [
    ResponseSchema(name="description", description="鲜花的描述文案"),
    ResponseSchema(name="reason", description="撰写文案的原因")
]
output_parser = StructuredOutputParser.from_response_schemas(response_schemas)

parsed_output = output_parser.parse(output)

这段代码展示了如何使用输出解析器将模型返回的文本转化为结构化的 Python 字典，从而方便程序进一步处理。

多花种文案生成

通过 LangChain 的模板系统，我们能够一次性生成多种花卉的文案，并且可以通过循环和参数化来批量处理不同的输入数据。在本例中，我们对三种不同的鲜花（玫瑰、百合、康乃馨）及其价格进行了批量文案生成，并打印出了每种花卉的文案。

示例代码：

flowers = ["玫瑰", "百合", "康乃馨"]
prices = ["50", "30", "20"]

for flower, price in zip(flowers, prices):
    input_prompt = prompt.format(flower_name=flower, price=price)
    output = model.invoke(input_prompt)
    print(output)

通过简单的循环，我们能够快速生成多种花卉的文案，并实时查看每种花卉的特点和描述。

LangChain 的优势

与直接使用 OpenAI API 相比，LangChain 提供了诸多优势，尤其是在 代码复用性 和 灵活性 上。我们可以通过定义统一的模板和结构化的输出，轻松切换不同的语言模型，确保程序具有高度的可维护性和可扩展性。

此外，LangChain 的 多模型支持 是它的一大亮点，我们可以轻松地切换不同的模型，例如使用 HuggingFace 的开源模型，而不需要修改提示模板的结构。

实践总结

本节课程中，我通过 LangChain 实现了一个简单的 鲜花文案生成应用，并深入探讨了模型 I/O 的三个关键环节：输入提示、模型调用和输出解析。通过 LangChain 提供的灵活框架，我们能够高效地构建和管理各种模型交互应用，减少了重复代码的编写，提高了开发效率。

LangChain 不仅简化了与模型的交互，还在多个模型支持、输出解析等方面提供了强大的功能。对于想要快速构建和部署基于大语言模型的应用的开发者来说，LangChain 无疑是一个非常值得学习和使用的工具。

avatar
文章
阅读
粉丝