Other
代理通过工具与世界交互。
提示工程认识:
LangChain提示工程涉及利用LangChain框架来设计和优化提示(Prompt),以引导大型语言模型生成特定类型的响应。
“提示”是一系列标记,用作语言模型的输入,指示它生成特定类型的响应。提示在引导模型的行为方面起着至关重要的作用,它们可以影响生成文本的质量。如果提示制作得当,可以帮助模型提供富有洞察力、准确且针对特定上下文的结果。提示工程是设计有效提示的艺术和科学,目标是从语言模型中得出所需的输出。
LangChain提示工程涉及以下步骤:
- 确定需求:明确希望从大型语言模型中获取什么样的输出,以及如何通过提示来引导模型生成这种输出。
- 选择模板:根据需求选择合适的提示模板。LangChain提供了多种模板类型,如PromptTemplate、ChatPromptTemplate和FewShotPromptTemplate等。
- 构建提示:使用选定的模板构建具体的提示。这通常涉及将占位符替换为实际的值,并添加必要的上下文信息。
- 评估和优化:将构建好的提示输入到大型语言模型中,并评估生成的输出是否符合预期。如果不符合预期,则需要对提示进行优化,如调整语言风格、添加更多上下文信息或更改提示结构等。
LangChain提示工程是一个强大的工具,它使得开发者能够更有效地与大型语言模型进行交互,并引导它们生成所需的输出。通过不断实践和优化,开发者可以掌握这项技能,并将其应用于各种实际场景中。
模型I/O:
输入提示、调用模型、解析输出。(04 08)
LangChain中的具体组件(05-07 09-14)
模型(Models):大语言模型。——07
提示模板(Prompts):提示模型以什么身份、如何去思考。——05-06
记忆(Memory) :短记忆、长记忆;是模型记住之前的聊天内容。——11
链(Chains):提示模板、语言模型、I/O等组合为整体,可使代码结构更加简洁。——09-10
代理(Agents):通过代理调用外部工具、内部工具(搜索引擎、应用程序等)。——12-14
数据检索(Indexes):构建、操作文档。
提示工程
包含角色role(system user assistant),content。
template --form_template--> message_prompt --from_message--> prompt_template --format_prompt--> prompt
template : 文本模板,附{ };
message_prompt
prompt_template : After PT
prompt : 实例文本模板。
prompt --model--> result
补充:思维链、思维树。