GPT-3 是 OpenAL 提出的基于上下文的超大规模自然处理深度学习模型。这意味着如果你给 GPT-3 某些上下文内容时,它会试图去填充其余内容。例如给出句子的前部分,它会推测出下半部分。
但最近 OpenAL
在官博和推特上公布:
GPT-3 又增加了两项新功能:编辑与插入,可以修改现有内容、而不仅是预测文本。
以往的 GPT-3
不同像单行道行驶,只能根据上下文预测;而新版本 GPT-3
则可以修改现有内容,是行驶在可以变道的多行道上。
我们来看官方给的栗子:
我们可以发现新版本的 GPT-3
可以编辑文本、更改当前存在的内容或在内容间添加文本。
插入
GPT-3
原有的功能是基于上下文进行推测,因此插入功能算是 GPT-3
的强项,如下面案例:
GPT-3
希望在大纲的两个节标题之间填写文本。如果没有下文的内容,模型会生成与第二部分无关的内容。当考虑到下文时,模型就会生成一段能够良好连接两部分内容的文本。
插入对于编写代码特别有用。在日常软件开发中,程序员通常需要参考前后的代码逻辑,然后在当前文件中添加新的代码。
例如 GPT-3
参考上下文代码,可以顺利补全 prune
函数
编辑
GPT-3
推出的编辑功能更多的是修改现有内容,而不是根据上文推测下文。
通过对现有文本指定为提示,并给出如何修改指示,GPT-3
编辑功能可以修改文本的语气或者结构,或者做一些针对性的修改,例如单词拼写。
下面我们利用 GPT-3
执行下面三种指示: 添加一首诗;将这首诗修改为第一人称;将这首诗修改为带有适当称呼和签名的字母。
后语
近几年,巨量模型发展越来越快,越来越智能,现在都可以根据上下文编写代码了。xdm
,不会要失业吧。