很荣幸有机会参与 Nvdia 举办的 DLI课程活动
活动链接：learn.nvidia.com/courses/cou…
大语言模型（LLM）在文本生成、大规模文档分析和聊天机器人等领域展现出强大的能力。通过先进的提示工程技术，可以有效地将 LLM 集成到产品和内部应用中。
课程使用开源的 Llama-3.1 大语言模型、NVIDIA NIM™ 和流行的 LangChain 库，教授提示工程的基本技能，指导学员构建基于 LLM 的应用。
二、提示工程基础
- 提示工程的重要性：提示工程是与 LLM 交互的核心。通过精心设计提示词，可以引导 LLM 生成符合特定格式、风格或内容的输出，满足应用需求。
- 零样本提示（Zero-Shot Prompting） ：无需提供示例，直接让模型完成任务，适用于简单任务场景。
- 少样本提示（Few-Shot Prompting） ：提供少量示例，帮助模型理解任务要求，适用于模型对特定任务不熟悉的情况。
- 思维链提示（Chain-of-Thought Prompting） ：引导模型逐步思考，适用于需要复杂推理的任务。
三、利用 LangChain 构建 LLM 应用
使用 LangChain 表达语言（LCEL）创建模块化、可复用和可组合的 LLM 工作单元（链），简化代码并提高效率。通过组合并行 LCEL 链，可以实现任务的并行处理。
四、使用消息进行提示
控制发送给聊天模型和从中接收的消息类型，包括少样本提示、系统消息更新和思维链提示等，以实现更强大的提示工程。通过管理消息，可以创建保留对话历史并具备人格设定的聊天机器人，提升交互的真实感和智能性。
五、结构化输出
定义精确的数据结构，并提供给 LLM，使其生成可直接在代码中使用的结构化数据，提高数据处理的准确性和便捷性。
六、工具使用和智能体
- 工具创建与应用：创建独立于 LLM 的功能单元，增强 LLM 的能力，使其能利用工具，并将工具的工作结果包含在生成的响应中，突破 LLM 的固有局限。
- 智能体开发：创建能利用外部 API 调用的 LLM 智能体，使用实时数据增强其响应，提升智能体的实用性和智能水平。
七、学习收获
通过课程的学习，掌握了提示工程的基本技能，了解了如何利用 LangChain 构建模块化的 LLM 应用，学会了使用消息进行提示以创建智能的聊天机器人，掌握了生成结构化输出的方法，以及如何开发能利用外部工具和 API 的智能体。这些技能为构建高效的 LLM 应用奠定了坚实的基础。
通过系统的学习和实践，深入理解了提示工程在 LLM 应用开发中的关键作用，为未来的应用开发提供了宝贵的经验和指导。
