LangChain 实战课：模型IO×提示工程 | 豆包MarsCode AI刷题

Picasso_Left
117 阅读6分钟

4. Model I/O

在模型 I/O的每个环节，LangChain都为咱们提供了模板和工具，快捷地形成调用各种语言模型的接口。

  1. 提示模板：使用模型的第一个环节是把提示信息输入到模型中，你可以创建LangChain模板，根据实际需求动态选择不同的输入，针对特定的任务和应用调整输入。
  2. 语言模型：LangChain允许你通过通用接口来调用语言模型。这意味着无论你要使用的是哪种语言模型，都可以通过同一种方式进行调用，这样就提高了灵活性和便利性。
  3. 输出解析：LangChain还提供了从模型输出中提取信息的功能。通过输出解析器，你可以精确地从模型的输出中获取需要的信息，而不需要处理冗余或不相关的数据，更重要的是还可以把大模型给回的非结构化文本，转换成程序可以处理的结构化数据。

语言模型

LangChain中支持的模型有三大类。

  1. 大语言模型（LLM） ，也叫Text Model，这些模型将文本字符串作为输入，并返回文本字符串作为输出。Open AI的text-davinci-003、Facebook的LLaMA、ANTHROPIC的Claude，都是典型的LLM。
  2. 聊天模型（Chat Model），主要代表Open AI的ChatGPT系列模型。这些模型通常由语言模型支持，但它们的 API 更加结构化。具体来说，这些模型将聊天消息列表作为输入，并返回聊天消息。
  3. 文本嵌入模型（Embedding Model），这些模型将文本作为输入并返回浮点数列表，也就是Embedding。而文本嵌入模型如OpenAI的text-embedding-ada-002，我们之前已经见过了。文本嵌入模型负责把文档存入向量数据库，和我们这里探讨的提示工程关系不大。

接收到这个输入，调用模型之后，得到的输出如下：

01.png

复用提示模板，我们可以同时生成多个鲜花的文案。

02.png

注册HuggingFaceHub APIkey

2.png 然后在本地运行程序，个人是开了代理运行的，有需要的同学可以自己上网查查 先在本第配置环境

04-1.png

04-2.png 然后直接运行就好了 04.png OPENAI IO.py运行结果如下： 03.png

输出解析

显我们不仅仅需要文字，更多情况下我们需要的是程序能够直接处理的、结构化的数据。

05.png

课后习题： 看了吴恩达老师的提示工程课程，进行了一些小的记录： 提示的原则： 原则1 编写清晰明确的指令 原则2 给模型时间思考 策略： 06.png 使用分隔符还能避免提示词冲突

07.png 限制-幻觉： 08.png 迭代： 09.png

5.提示工程(上):用少样本FewShotTemplate和ExampleSelector创建应景文案

在Open AI的官方文档 GPT 最佳实践中，也给出了和上面这两大原则一脉相承的6大策略。分别是：

  1. 写清晰的指示
  2. 给模型提供参考（也就是示例）
  3. 将复杂任务拆分成子任务
  4. 给GPT时间思考
  5. 使用外部工具
  6. 反复迭代问题

PS:吴恩达老师的课程讲的非常清晰，有不懂的同学这边推荐去看看

提示的结构

  • 指令（Instuction）告诉模型这个任务大概要做什么、怎么做，比如如何使用提供的外部信息、如何处理查询以及如何构造输出。这通常是一个提示模板中比较固定的部分。一个常见用例是告诉模型“你是一个有用的XX助手”，这会让他更认真地对待自己的角色。
  • 上下文（Context）则充当模型的额外知识来源。这些信息可以手动插入到提示中，通过矢量数据库检索得来，或通过其他方式（如调用API、计算器等工具）拉入。一个常见的用例时是把从向量数据库查询到的知识作为上下文传递给模型。
  • 提示输入（Prompt Input）通常就是具体的问题或者需要大模型做的具体事情，这个部分和“指令”部分其实也可以合二为一。但是拆分出来成为一个独立的组件，就更加结构化，便于复用模板。这通常是作为变量，在调用模型之前传递给提示模板，以形成具体的提示。
  • 输出指示器（Output Indicator）标记​​要生成的文本的开始。这就像我们小时候的数学考卷，先写一个“解”，就代表你要开始答题了。如果生成 Python 代码，可以使用 “import” 向模型表明它必须开始编写 Python 代码（因为大多数 Python 脚本以import开头）。这部分在我们和ChatGPT对话时往往是可有可无的，当然LangChain中的代理在构建提示模板时，经常性的会用一个“Thought：”（思考）作为引导词，指示模型开始输出自己的推理（Reasoning）。

LangChain 提示模板的类型

LangChain中提供String（StringPromptTemplate）和Chat（BaseChatPromptTemplate）两种基本类型的模板，并基于它们构建了不同类型的提示模板：

使用 PromptTemplate

01.png

使用 ChatPromptTemplate

02.png

使用 FewShotPromptTemplate

1. 创建示例样本

首先，创建一些示例，作为提示的样本。其中每个示例都是一个字典，其中键是输入变量，值是这些输入变量的值。 2. 创建提示模板

配置一个提示模板，将一个示例格式化为字符串。这个格式化程序应该是一个PromptTemplate对象。 3. 创建 FewShotPromptTemplate 对象

然后，通过使用上一步骤中创建的prompt_sample，以及samples列表中的所有示例， 创建一个FewShotPromptTemplate对象，生成更复杂的提示

然后再=在运行程序的时候，我发现了一个报错，报错截图如下，不知道有木有友友也遇到 03.png 根据报错的提示来安装： 03-1.png 嗯！！ 然后运行成功！！！ 03-2.png 4. 调用大模型创建新文案

最后，把这个对象输出给大模型，就可以根据提示，得到我们所需要的文案了！

使用示例选择器

这个有个注意的地方就是，初始化示例选择器 里面，模型换成之前注册的支持embedding的那个！！！不然会报错哦 03-3.png

提示工程(下):用思维链和思维树提升模型思考质量

  • CoT的核心思想是通过生成一系列中间推理步骤来增强模型的推理能力。在Few-Shot CoT和Zero-Shot CoT两种应用方法中，前者通过提供链式思考示例传递给模型，后者则直接告诉模型进行要按部就班的推理。
  • ToT进一步扩展了CoT的思想，通过搜索由连贯的语言序列组成的思维树来解决复杂问题。我通过一个鲜花选择的实例，展示了如何在实际应用中使用ToT框架。

微信截图_20241107193538.png

嗯嗯嗯，很舒服的学习，AI练中学简直是世界上最伟大的发明，在学校上过一些nlp课程，但是也都是理论基础，看到代码之后加深了对理论的理解，

avatar
文章
阅读
粉丝