巨量模型GPT-3新功能: 编辑与插入 | 可根据上下文补充代码😭

1237

GPT-3 是 OpenAL 提出的基于上下文的超大规模自然处理深度学习模型。这意味着如果你给 GPT-3 某些上下文内容时,它会试图去填充其余内容。例如给出句子的前部分,它会推测出下半部分。

但最近 OpenAL 在官博和推特上公布:

GPT-3 又增加了两项新功能:编辑与插入,可以修改现有内容、而不仅是预测文本。

以往的 GPT-3 不同像单行道行驶,只能根据上下文预测;而新版本 GPT-3 则可以修改现有内容,是行驶在可以变道的多行道上。

我们来看官方给的栗子:

gpt-3.gif

我们可以发现新版本的 GPT-3 可以编辑文本、更改当前存在的内容或在内容间添加文本。

插入

GPT-3 原有的功能是基于上下文进行推测,因此插入功能算是 GPT-3 的强项,如下面案例: GPT-3 希望在大纲的两个节标题之间填写文本。如果没有下文的内容,模型会生成与第二部分无关的内容。当考虑到下文时,模型就会生成一段能够良好连接两部分内容的文本。

gpt-3-insert.gif

插入对于编写代码特别有用。在日常软件开发中,程序员通常需要参考前后的代码逻辑,然后在当前文件中添加新的代码。

例如 GPT-3 参考上下文代码,可以顺利补全 prune 函数

gpt-3.gif

编辑

GPT-3 推出的编辑功能更多的是修改现有内容,而不是根据上文推测下文。

通过对现有文本指定为提示,并给出如何修改指示,GPT-3 编辑功能可以修改文本的语气或者结构,或者做一些针对性的修改,例如单词拼写。

下面我们利用 GPT-3 执行下面三种指示: 添加一首诗;将这首诗修改为第一人称;将这首诗修改为带有适当称呼和签名的字母。

gpt-3-edit.gif

后语

近几年,巨量模型发展越来越快,越来越智能,现在都可以根据上下文编写代码了。xdm,不会要失业吧。