LangChain提示工程学习笔记
课程引入
提示工程是引导大模型生成优质回答的关键技术，它如同与模型沟通的艺术，能够让模型更好地理解我们的需求并给出准确、有用的回应。在自然语言处理领域，如何巧妙地运用提示工程，使大模型发挥出最大的潜力，是一个值得深入探讨的话题。
提示的结构
一个完善的提示框架就像是一份详细的任务说明书，它由多个部分组成，每个部分都发挥着独特的作用。指令（Instruction）如同任务的核心指南，明确地告诉模型应该做什么以及如何去做，例如如何运用提供的外部信息、处理查询以及构建输出等。上下文（Context）则为模型提供了丰富的知识背景，这些信息可以通过多种方式获取并传递给模型，使其能够更好地理解问题的背景和相关信息。提示输入（Prompt Input）是具体的问题或任务描述，它与指令部分相互配合，进一步明确模型需要处理的具体内容。输出指示器（Output Indicator）则像是一个信号标志，告诉模型开始生成文本的位置，同时也可以对输出的格式进行一定的规范。
LangChain提示模板的类型
PromptTemplate
这是一种基础且常用的提示模板类型，它以字符串的形式呈现。在使用时，我们可以通过from_template方法轻松地从传入的字符串中自动提取变量名称，无需手动指定，这大大提高了模板的使用便利性。例如，在为电商公司起名的示例中，我们可以通过设置占位符{product}，然后使用from_template方法创建提示模板对象，并通过format方法将占位符替换为具体的产品名称，从而生成针对不同产品的个性化提示。
ChatPromptTemplate
针对聊天模型的特点，LangChain专门设计了ChatPromptTemplate。它与聊天模型的消息角色紧密结合，包括系统、用户和助理等角色。通过合理运用这些角色模板，我们可以构建出更加自然、流畅的对话提示。在实际应用中，系统消息可以用于设置助手的行为和个性，用户消息提出请求或评论，助理消息则存储之前的响应或提供示例。这种结构化的设计使得聊天模型能够更好地理解对话的意图和上下文，从而生成更加准确和恰当的回复。
FewShotPromptTemplate
FewShotPromptTemplate是提示工程中的重要概念，它通过提供少量的示例来引导模型学习和理解任务。这种方式类似于人类的学习过程，通过观察和模仿示例，模型能够更快地掌握任务的要求并生成符合预期的回答。在创建FewShotPromptTemplate对象时，我们需要先准备好示例样本，这些样本应包含输入变量和对应的输出值。然后，通过配置提示模板，将示例格式化为字符串，并将其与其他参数一起传递给FewShotPromptTemplate对象。最后，将该对象输出给大模型，模型就能够根据示例生成新的文案。例如，在鲜花文案生成的示例中，我们提供了不同花种在不同场合下的广告文案示例，模型通过学习这些示例，能够为新的花种和场合生成合适的文案。
PipelinePrompt
PipelinePrompt的作用是将多个提示组合在一起，形成一个连贯的提示流程。这种模板在处理复杂任务时非常有用，它可以将任务分解为多个子任务，并为每个子任务提供相应的提示。通过依次执行这些提示，模型能够逐步完成复杂任务的处理。
自定义模板
为了满足不同的需求，LangChain还允许用户基于其他模板类来定制自己的提示模板。这种灵活性使得开发者可以根据具体的应用场景和任务要求，创建出更加个性化和针对性的提示模板。
使用FewShotPromptTemplate
创建示例样本
示例样本是FewShotPromptTemplate的基础，它们应该具有代表性和多样性，能够涵盖不同的情况和场景。在创建示例样本时，我们需要仔细考虑输入变量和输出值的设置，确保示例能够准确地传达任务的要求和期望的输出格式。例如，在鲜花文案的示例中，我们选择了玫瑰、康乃馨、百合和向日葵等常见花种，并为它们分别设置了适合的场合和相应的广告文案，这些示例能够帮助模型更好地理解不同花种与场合之间的关系，从而生成更加准确和有针对性的文案。
创建提示模板
创建提示模板的过程是将示例样本格式化为字符串的过程，这个过程需要我们根据输入变量和期望的输出格式来设计模板字符串。在设计模板字符串时，我们可以使用大括号来表示变量，这些变量将在后续的步骤中被实际的值替换。通过这种方式，我们可以创建出一个通用的提示模板，适用于不同的输入值。例如，在鲜花文案的示例中，我们使用了“花类型：{flower_type}\n适合场合：{occasion}\n文案：{ad_copy}”这样的模板字符串，将花的类型、适合场合和广告文案作为变量，方便后续的替换和生成。
创建FewShotPromptTemplate对象
FewShotPromptTemplate对象的创建需要将示例样本、提示模板以及其他相关参数传递给它。在这个过程中，我们需要确保示例样本和提示模板的格式正确，并且输入变量的设置与示例样本和提示模板中的变量一致。通过创建FewShotPromptTemplate对象，我们可以将多个示例和提示组合在一起，形成一个更加复杂和强大的提示。例如，在鲜花文案的示例中，我们将之前创建的示例样本和提示模板传递给FewShotPromptTemplate对象，并设置了后缀和输入变量等参数，从而创建了一个能够根据不同花种和场合生成文案的提示模板对象。
调用大模型创建新文案
最后，我们将创建好的FewShotPromptTemplate对象输出给大模型，模型就能够根据提示和示例生成新的文案。在调用大模型时，我们需要确保已经正确设置了模型的参数和环境变量，并且将输入变量的值传递给提示模板。通过这种方式，我们可以利用大模型的强大生成能力，快速生成符合要求的文案。例如，在鲜花文案的示例中，我们将花种设置为“野玫瑰”，场合设置为“爱情”，然后将这些值传递给FewShotPromptTemplate对象，模型根据示例生成了“野玫瑰代表着爱情的坚贞，是你向心爱的人表达爱意的最佳礼物。”这样的文案。
使用示例选择器
在实际应用中，当示例数量较多时，一次性将所有示例发送给模型可能会导致效率低下和资源浪费。为了解决这个问题，LangChain提供了示例选择器，它可以根据一定的策略选择最合适的示例发送给模型。示例选择器通常使用向量相似度比较的功能，通过计算示例与当前输入的相似度，选择最相关的示例。在使用示例选择器时，我们需要先安装相应的向量数据库，并根据具体需求进行配置。例如，在鲜花文案的示例中，我们使用了开源的Chroma向量数据库，并通过SemanticSimilarityExampleSelector根据语义相似度选择最相关的示例。这样，模型就能够只关注与当前任务最相关的示例，提高回答的准确性和效率。
总结
提示工程是与大模型交互的重要手段，通过合理设计提示的结构和选择合适的提示模板，我们可以引导大模型生成更加准确、有用的回答。FewShotPromptTemplate通过提供示例来帮助模型学习和理解任务，在很多情况下能够显著提高模型的性能。而示例选择器则可以进一步优化示例的使用，提高效率和准确性。在实际应用中，我们需要根据具体的任务和数据情况，灵活运用这些技术，不断探索和优化提示工程的方法，以充分发挥大模型的潜力。同时，我们也应该关注提示工程的发展动态，学习和借鉴新的技术和方法，不断提升自己在这方面的能力。
