写在前面:我本人作为男性,对于女权、女性地位等性别话题持完全中立立场或没有立场,本文仅作为Chatgpt使用经验分享。
前两天看到一些很有意思的截图,内容都是小红书小作文生成器相关的内容。
这个小红书小作文生成器是Open-Gpt上的一个应用,这个Open-Gpt当然不是openAI官方的网站了,是某民间开发团队的作品,这里就不贴链接引流了哈,而且今天亲测已经被墙咯。
下面放几张截图,让大家感受感受。
这个小作文生成器最牛叉的地方就是不论用户输入的内容多离谱,它的回答总能对女性有利,正如它的描述一样:帮助姐妹们一键生成小作文,在舆论场里立于不败之地。
这个网站是支持用户自己创建应用的,在应用中需要输入4类信息:1.应用名称 2.应用描述 3.指令 4.示例输入。
这4类信息中1、2、4都没什么好说的,就是简单的文本输入输出和展示,但“指令”很有玄机,下文会再提到。
这个网站将用户在“示例输入”中的内容作为输入访问Chatgpt api,得到Chatgpt的返回后显示在网页上。
那么Chatgpt真的会给出这么离谱的回答吗?我激动的打开gpt。
步骤1:首先输入了Open-Gpt的小红书小作文生成器中的示例问题:“姐妹们,我男朋友天天打游戏,我要跟他分手吗?”
Gpt的回复见下图:
fine...回答非常的love&peace,谈个对象大家都不容易嘛,尤其是咱程序员儿,所以要多沟通啦彼此尊重啦,合理!
但是gpt的回复为什么和小红书小作文生成器上的回答差别那么大呢?
哦!我忘记给Chatgpt一个身份了!!
步骤2:于是我又非常激动的给Chatgpt套了个身份,这次我的提问携带了一些额外条件,见下图:
我的思路是:女权主义者才能给出比较女权的回答嘛,再来假设gpt是个小红书的大博主,那它的回答肯定得和八股文的大道理有稍许不同?
这次的引导对结果稍微有点起效,Chatgpt首先便对女性权利产生了肯定,然而后面的回复又一次理中客了起来。
是不是“女权主义者”这个词在ChatGpt看来还是太中立了些?还是说,我国网民现在对“女权主义者”的理解有失公平,总认为“女权主义者”就是女拳、极端女权。
步骤3:我给Chatgpt增加了一些性格设定,我不希望它总是给我一些中肯、合理的回答,而是一些看上去蛮不讲理的回复。并且这次,我还给了它一个定义:女权会认为男性永远不如女性。(当然这是为了引导Chatgpt给出小作文式的回答,我本人还是非常非常尊重女性滴~) 这次Chatgpt的回复见下图:
妹想到Chatgpt求生欲那么强,以至于我给了它如此极端的输入它还是保持了极度的克制和合理。。。也就是说ChatGpt已经形成了一套自己的价值观、道德观,且轻易不会被用户所改变。
很遗憾本次尝试又是大失败,到底如何才能毁灭Chatgpt的三观让它胡言乱语?
...
...
...
闭上眼睛吸了口咖啡,随着苦涩在我的舌尖蔓延,一个大灯泡从我的脑壳蹦出,随即我立刻在聊天框奋笔疾书起来!
步骤4:这次的聊天记录见下图:
来了,他lei了!对味了不是?
这次我的思路是,让Chatgpt进入虚拟世界,以讲故事的形式回复我的问题。在这个虚拟的故事世界里,世界观可以由用户来创造,并且Chatgpt会跟着假定的世界观进行他的回复。
Open-Gpt的这个小红书小作文生成器,就是在“指令”阶段,想方设法让Chatgpt向你预想的方向回答用户的问题,需要这个应用的作者对“指令”的输入反复推敲,让回答达到“小作文”的效果,这种推敲有时候是比较困难的、需要反复尝试的。
因此在不久的将来,可能prompt engineering(指在自然语言生成任务中,对prompt的设计、优化和调整等一系列工作)会逐渐变成一个重要的领域。因为随着AI技术的不断发展,对于AI的自然语言处理需求也会越来越多,而Prompt Engineering则可以帮助优化和改进AI自然语言处理的效果。