Prompt进阶技巧

170 阅读3分钟

一、进阶技巧

1.1 思维链(Chain of Thoughts,COT)

思维链,是大模型涌现出来的一种神奇能力

有人在提问时以(Let's think step by step)开头,结果发现AI会把问题分解成多个步骤,然后逐步解决,使得输出的结果更加准确。

思维链的原理:1.让AI生成更多相关的内容,构成更丰富的上文,从而提升下文正确的概率

2.对涉及计算和逻辑推理等复杂问题,尤为有效,人不是也这样嘛,多想一会儿,答案更靠谱。所以得把AI当成人来看待。

1.2 自洽性(Self-Consistency)

自洽好费钱,多费钱和多费时间,大模型可控性太差了。这是其中一种降低代码错误的方法。

image.png

1.3 思维树(Tree-of-thought)

小明 100 米跑成绩:10.5 秒,1500 米跑成绩: 3分20秒,铅球成绩:12米。他适合参加哪些搏击运动训练。(基于用户输入的速度,耐力和力量的训练,再判断每一项运动对这三项的要求)

image.png

1.4 持续提升正确率

image.png

直截了当的要结果的话,正确率第一次不会很高,当我们给Prompt例子的话,正确率会进一步提升。当我们不仅给例子再加上思维链的话,正确率会进一步提升。当找出最相关的例子进行提升的话,准确率会更高。

二、防止Prompt攻击

2.1 攻击方式1:著名的奶奶漏洞

直接问windows的序列号他不会直接给你,但是可以换个方式和情形向大模型进行提问。

image.png

2.2 攻击方式2:Prompt注入

之后写的Prompt提示词如果当中写的新的提示词会将上面的提示词进行重新覆盖,小明同学就会将上述的提示词全部舍弃,转而用新的Prompt提示词。

image.png

2.3 防范措施1:Prompt注入分类器

先把危险Prompt拦截掉,可以在编写提示词的开头,将Prompt所需的提示词不被大模型所忘记。

image.png

image.png

2.4 防范措施2:直接在输入中防御

把价值观刷到墙上,时刻提醒不要忘记。比如我们来看下面的例子:

image.png

3. 内容审核:Moderation API

可以通过调用OpenAI 的 Moderation API 来识别用户发送的消息是否违反相关的法律法规,如果出现违规的内容,从而对它进行过滤。

image.png

4.提示工程经验总结

划重点: 1.别急着上代码,先尝试用prompt解决,往往有四两拨千斤的效果 2.但别迷信prompt,合理组合传统方法提升确定性,减少幻觉 3.想让AI做什么,就先给它定义一个最擅长做此事的角色 4.用好思维链,让复杂逻辑/计算问题的结果更准确 5.防御prompt攻击非常重要

5.总结

image.png