OpenAI因为地区限制常出现绑定失败,无法使用其API的情况
而Azure OpenAI与OpenAI同源,且国内付款比较容易,LangChain自身也支持其配置,因此常可以作为OpenAI的替代
前置准备
- 微软 或 github账号,用于注册
- Master或visia信用卡,用于绑定;不开启付费业务的情况下不会有支出
- 公司邮箱,用于申请Azure OpenAI服务,大约需要1-3天不等
Azure OpenAI
第一次注册完毕会给账号200刀,30天的免费额度可以用来上手
注册完毕后进入主页,搜索OpenAI
然后我们创建一个OpenAI服务
目前 OpenAI 的业务需要申请才能使用,第一次打开这个界面会提醒填写表单进行申请,按照表单内容填写公司相关的信息即可,邮箱一定使用公司的邮箱,使用个人邮箱会被直接拒绝,一般需要等待几天即可。
申请通过之后进入创建页面,会出现表格,正常填写就好,有两点需要说明
- 区域:不同的区域限制不同的模型与调用配额数,可以在这里查看官方说明
- 名称:之后会作为我们的终结点(endpoint)域名前缀
网络和Tags一般不做修改,使用默认即可
待部署完毕,打开部署的服务,我们接下来进行模型部署,以此点击模型部署、管理部署,进入Studio平台继续进行
之后点击部署、新建部署
我们会出现创建模型的弹窗,可以创建一个gpt-4的模型,关于不同模型版本的区别与定价可以点击链接进行查看
部署完毕之后,可以在操场->聊天中进行测试
测试OK,证明我们已经完成了部署
LangChain调用Azure OpenAI
LangChain中调用AzureOpenAI共需要以下四个环境变量
| 环境变量名 | 含义 | 查找方式 | 对应截图 |
|---|---|---|---|
| AZURE_OPENAI_API_KEY | API密钥 | 资源管理->密钥和终结点 | |
| AZURE_OPENAI_API_VERSION | 我们调用的接口API版本 | 官网中查询 | |
| AZURE_OPENAI_API_DEPLOYMENT_NAME | 部署模型的部署名称 | 模型的部署名称 | |
| AZURE_OPENAI_API_INSTANCE_NAME | 实例名称 | 创建实例的名称 |
其他说明:在模型选择上,对话chat建议使用gpt,如果做embedding使用text-embedding-ada那个模型,否则会出现报错400 the embeddings operation does not work with the specified model, gpt-4. please choose different model and try again. you can learn more about which models can be used with each operation here: https://go.microsoft.com/fwlink/?linkid=2197993.