FastGPT上使用多种大语言模型

289 阅读1分钟

本文介绍如何在FastGPT上使用MindCraft API,此支持市面上主流的大语言模型,通过一个API KEY可以管理并调用多个模型。官方同价,并且注册有免费额度。

1.  注册MindCraft并创建API KEY

首先我们在智匠MindCraft上注册账号并创建API KEY,参考接口调用文档,查看我们能调用哪些模型。我们可以看到这个开发平台上整合了主流的大语言模型,并且是兼容openai接口的。

image.png

image.png

image.png

2.  docker compose 部署时修改配置文件

填入API KEY以及API地址

image.png

3.  修改 config文件

修改成需要的模型型号,并填入相关参数

image.png

4.  在应用中测试使用

选择模型,然后输入文字,对话测试

image.png