AI的理解

0 阅读2分钟

LLM

Prompt(提示词)

定义,什么是提示词?你给大模型的输入的语言指令?例如:你让ai做什么?怎么做?任务的边界是什么?这些都属于提示词。

作用&重要性 大模型本身不知道你的先验知识和业务背景,因此我嗯需要把我们的提示词尽量完备:把我们的头脑中的目标意图翻译成自然语言

在AI对话中提示词可以分为三种类型:

  1. 用户提示词:本次(当前)输入给AI的信息或指令
  2. 系统提示词:预先在系统给AI设置好的角色定位和行为规则
  3. 助手提示词(助手消息):模型历史回复。AI模型在上一轮对话中生成的内容。一般作为下一轮对话的上下文(因为在多轮对话中模型会历史的assistant片段回传回去)

系统提示词

提示词工程

抽象的:为什么要工程?所谓工程化:就是我们要把“一个经常要做的一件主观上比较随意的事” -> 转化为:一个“标准化、规范程序化、可复用”的流程,重复执行这个流程中可以"迭代,测试,更新"。
为什么要把提示词工程化?
核心原因:大模型的输出是概率性的(同样的意图换几个字结果可能就差很多),而业务要求的往往是长期、稳定、可控、可协作和追责的。因此我们要通过工程化保证“差别不大的输入” -> "质量可预测的结果" 解决方案: 提示词往往不是孤立文本,而是产品链路的一环:RAG 材料怎么塞、工具怎么调用、失败怎么重试。工程化让提示与数据流、错误处理、降级策略一致,而不是每个接口各写一套。

image.png

(相关名词:RAG、Dify)

Token