OpenAI 又放大招了,GPT3.5 API 开放使用,1分钟上手体验!

63,189 阅读1分钟

本文正在参加 ✍🏻 技术视角深入 ChatGPT 征文活动

上班前日常刷一刷 OpenAI,看看有什么新消息。果然,上来就是一个王炸,GPT3.5 API 他来了,没错,GPT3.5 API采用与 ChatGPT 聊天界面相同的模型,甚至有了改进。

image.png

The ChatGPT model family we are releasing today, gpt-3.5-turbo, is the same model used in the ChatGPT product.

image.png

gpt-3.5-turbo 在价格上便宜十倍,我一开始以为我看错了,实际上 gpt-3.5-turbo 真的比 davinci 模型便宜十倍!gpt-3.5-turbo 的价格是 0.002 美元 / 1000 Token。

It is priced at $0.002 per 1k tokens, which is 10x cheaper than our existing GPT-3.5 models.

集成 API 也不是很复杂,你几乎可以无缝从 GPT3 的 text-davinci-003 模型切换到 gpt-3.5-turbo

It’s also our best model for many non-chat use cases—we’ve seen early testers migrate from text-davinci-003 to gpt-3.5-turbo with only a small amount of adjustment needed to their prompts.

基于 gpt-3.5-turbo 模型,我们不仅可以用来实现 AI 聊天场景,还可以用来干很多事。

使用 OpenAI API,我们可以使用 gpt-3.5-turbo 构建自己的应用程序,不局限于做到以下事情:

  • 起草电子邮件或其他书面文件。
  • 让 gpt 写点 Python 代码或者其他代码。
  • 让 gpt 回答文档相关的问题。
  • 创建一个智能AI客服。
  • 让我们的应用或者软件支持自然语言处理。
  • 成为某个领域的伪专家。
  • 也可以在游戏中给 NPC 对话。

那么具体怎么用上这个 GPT3.5 的 API 呢?总的来说与 text-davinci-003 的使用差异不大。

还记得我在上篇文章花1块钱让你的网站支持 ChatGPT中讲过,使用 text-davinci-003 时,最关键的参数就是prompt,所有的会话上下文信息都要在这个参数中体现,不算特别优雅。

在 GPT3.5 的 completion 接口中,对此做了优化,可以通过数组形式的messages传递会话信息,而且通过语义化的rolecontent来体现身份和内容,总的来说体验是更好了!

image.png

在身份认证上,采用的是 Bearer Token,需要在请求头中带上 Authorization。

Authorization: `Bearer ${your api token}`

那么 gpt3.5 的生态目前如何呢? 看 OpenAI 文档示例大概能知道,官方 python 包应该是支持了。而 npm 这边的 openai 包似乎还没更新 README,可能还在补齐这块能力,不如我们自己来上手尝试对接一下。

我这里简单封装了一下接口请求,给出了一个 gpt-node 包,已经发布到 npm 上,方便大家尝鲜!

image.png

具体使用也比较简单,只要实例化时把你的 token 带上,然后通过api.completions方法调用对话能力即可。

const api = new ChatGPT35("your token")

const result = await api.completions({
    messages: [
        {
            role: "ai",
            content: "hello"
        },
        {
            role: "user",
            content: "你是谁?"
        }
    ]
})

console.log(result)

ChatGPT 的体验在不断优化,价格和成本也在不断压缩,这个行业看起来会越来越卷,期待有更精彩的内容出现!