FastGPT是什么?
讲部署前,咱们先介绍一下FastGPT是什么?
FastGPT 是一款开源、低代码的企业级大模型应用开发平台,核心是用RAG 检索增强生成 + 可视化工作流,让你快速搭建专属知识库问答、智能客服、AI 助手等应用。
FastGPT = 开源 RAG 平台 + 可视化工作流 + 多模型接入,让企业和开发者快速、低成本、安全地落地大模型应用。
就简单两句话,因为当你看到这篇文章时,我猜你是认识FastGPT的。
那我们开始部署吧。
部署
1、我们先去官网下载docker需要的执行配置文件。
官网指向:doc.fastgpt.cn/zh-CN/docs/… 我用的 pgsql数据 + 阿里云的镜像地址。
下载文件:docker-compose.pg.yml、config.json 将文件放在一个文件下,文件路径不能有中文哦!
将下载好的文件放在同一个文件下,文件路径不能有中文哦!
2、打开powershell
在文件路径处,输入“powershell”,调取命令行,用来执行docker命令
执行docker命令: docker-compose up -d 下载资源比较耗时,需要耐心等待哦!
- docker 需配置阿里云的镜像加速器,不会的同学看这里>>
https://juejin.cn/spost/7617333072935731246
下载完之后,打开docker desktop查看FastGPT的启动情况,全部启动成功。 有时会出现健康检查失败的情况,重新生成一下就能解决.
docker-compose stop
docker-compose rm -f
docker-compose up -d
3、查看FastGPT的启动效果
打开浏览器: http://localhost:3000
登录用户名为 root,密码为docker-compose.yml环境变量里设置的 ** DEFAULT_ROOT_PSW 。 每次重启容器,都会自动初始化 root 用户,密码为 1234**(与环境变量中的DEFAULT_ROOT_PSW一致)
4、ollama 下载模型
我这里演示接入ollama本地模型
ollama从官网下载安装包,安装即可。ollama.com/download
首先下载一个小的数据模型[deepseek-r1:1.5b]: ollama run deepseek-r1:1.5b
5、模型配置
现在开始配置模型渠道:模型供应商 --> 模型渠道 --> 新增渠道
模型配置成功。。
6、对话本地大模型
进入工作台,创建属于你的第一个agent吧
选择刚才配置的AI模型
到此本地部署大模型的工作完成啦!!!