学习笔记:LangChain组件、提示工程|豆包MarsCode AI刷题

105 阅读2分钟

Other

代理通过工具与世界交互。

提示工程认识:

LangChain提示工程涉及利用LangChain框架来设计和优化提示(Prompt),以引导大型语言模型生成特定类型的响应。

“提示”是一系列标记,用作语言模型的输入,指示它生成特定类型的响应。提示在引导模型的行为方面起着至关重要的作用,它们可以影响生成文本的质量。如果提示制作得当,可以帮助模型提供富有洞察力、准确且针对特定上下文的结果。提示工程是设计有效提示的艺术和科学,目标是从语言模型中得出所需的输出。

LangChain提示工程涉及以下步骤:

  1. 确定需求:明确希望从大型语言模型中获取什么样的输出,以及如何通过提示来引导模型生成这种输出。
  2. 选择模板:根据需求选择合适的提示模板。LangChain提供了多种模板类型,如PromptTemplate、ChatPromptTemplate和FewShotPromptTemplate等。
  3. 构建提示:使用选定的模板构建具体的提示。这通常涉及将占位符替换为实际的值,并添加必要的上下文信息。
  4. 评估和优化:将构建好的提示输入到大型语言模型中,并评估生成的输出是否符合预期。如果不符合预期,则需要对提示进行优化,如调整语言风格、添加更多上下文信息或更改提示结构等。

LangChain提示工程是一个强大的工具,它使得开发者能够更有效地与大型语言模型进行交互,并引导它们生成所需的输出。通过不断实践和优化,开发者可以掌握这项技能,并将其应用于各种实际场景中。

模型I/O:

输入提示、调用模型、解析输出。(04 08)

LangChain中的具体组件(05-07 09-14)

模型(Models):大语言模型。——07

提示模板(Prompts):提示模型以什么身份、如何去思考。——05-06

记忆(Memory) :短记忆、长记忆;是模型记住之前的聊天内容。——11

链(Chains):提示模板、语言模型、I/O等组合为整体,可使代码结构更加简洁。——09-10

代理(Agents):通过代理调用外部工具、内部工具(搜索引擎、应用程序等)。——12-14

数据检索(Indexes):构建、操作文档。

提示工程

包含角色role(system user assistant),content

template --form_template--> message_prompt --from_message--> prompt_template --format_prompt--> prompt

template : 文本模板,附{ };

message_prompt

prompt_template : After PT

prompt : 实例文本模板。

prompt --model--> result

补充:思维链、思维树。