LLM
Prompt(提示词)
定义,什么是提示词?你给大模型的输入的语言指令?例如:你让ai做什么?怎么做?任务的边界是什么?这些都属于提示词。
作用&重要性 大模型本身不知道你的先验知识和业务背景,因此我嗯需要把我们的提示词尽量完备:把我们的头脑中的目标意图翻译成自然语言
在AI对话中提示词可以分为三种类型:
- 用户提示词:本次(当前)输入给AI的信息或指令
- 系统提示词:预先在系统给AI设置好的角色定位和行为规则
- 助手提示词(助手消息):模型历史回复。AI模型在上一轮对话中生成的内容。一般作为下一轮对话的上下文(因为在多轮对话中模型会历史的assistant片段回传回去)
系统提示词
提示词工程
抽象的:为什么要工程?所谓工程化:就是我们要把“一个经常要做的一件主观上比较随意的事” -> 转化为:一个“标准化、规范程序化、可复用”的流程,重复执行这个流程中可以"迭代,测试,更新"。
为什么要把提示词工程化?
核心原因:大模型的输出是概率性的(同样的意图换几个字结果可能就差很多),而业务要求的往往是长期、稳定、可控、可协作和追责的。因此我们要通过工程化保证“差别不大的输入” -> "质量可预测的结果"
解决方案:
提示词往往不是孤立文本,而是产品链路的一环:RAG 材料怎么塞、工具怎么调用、失败怎么重试。工程化让提示与数据流、错误处理、降级策略一致,而不是每个接口各写一套。
(相关名词:RAG、Dify)
Token