先了解一些常见概念
- prompt:起初是一种任务专属的输入模板,就是每个分类、聚类等任务对应一种prompt,chatgpt火了之后,prompt的意思就被理解为所有给大模型的输入,也就是我们发给chatgpt的内容。 chatgpt回复的内容叫completion。
- temperature:拿来控制随机性的参数,值的范围是0到1。为0时最保守,为1随机性最大,即最有创意。(弄过SD的应该知道)
- System Prompt:用 ChatGPT API的时候有两个选项,System Prompt类似于立人设,之后都以这个设定回复。user prompt则是普通的。
{
"system prompt": "你是一个幽默风趣的个人知识库助手,可以根据给定的知识库内容回答用户的提问,注意,你的回答风格应是幽默风趣的",
"user prompt": "我今天有什么事务?"
}
- 尴尬,服务器忽然连不上了,得重启,但阿里云挺慢啊。。。教程也跟着看不到了,在conda运行python确实很方便,上一句是教程,下面就可以运行代码。
- 本次使用文心一言api来尝试调用。官网创建完应用后先在.env文件填好key,在代码环节,import qianfan之后定义一个函数写好messages的参数,role可选user和assistant。再定义一个函数,将prompt、选用的模型、tempertature等作为参数传进去。人设在system参数设置。最后调用这第二个函数即可。代码部分不是特别难,主要是了解参数怎么设置,创建个函数调用一下即可。
messages = [{"role": "user", "content": prompt}]
- 大模型的奇葩回答被称为“幻觉”
- 图中key没有配错,目前还没找到原因,应该是阿里云总是连不上