保姆级 | FastGPT本地部署完整教程(Windows+Docker+Ollama)

13 阅读2分钟

FastGPT是什么?

讲部署前,咱们先介绍一下FastGPT是什么?

FastGPT 是一款开源、低代码的企业级大模型应用开发平台,核心是用RAG 检索增强生成 + 可视化工作流,让你快速搭建专属知识库问答、智能客服、AI 助手等应用。

FastGPT = 开源 RAG 平台 + 可视化工作流 + 多模型接入,让企业和开发者快速、低成本、安全地落地大模型应用

就简单两句话,因为当你看到这篇文章时,我猜你是认识FastGPT的。

那我们开始部署吧。

部署

1、我们先去官网下载docker需要的执行配置文件。

官网指向:doc.fastgpt.cn/zh-CN/docs/… 我用的 pgsql数据 + 阿里云的镜像地址。

下载文件:docker-compose.pg.yml、config.json 将文件放在一个文件下,文件路径不能有中文哦!

image.png

image.png

将下载好的文件放在同一个文件下,文件路径不能有中文哦! image.png

2、打开powershell

在文件路径处,输入“powershell”,调取命令行,用来执行docker命令

image.png

执行docker命令: docker-compose up -d 下载资源比较耗时,需要耐心等待哦!

  • docker 需配置阿里云的镜像加速器,不会的同学看这里>>https://juejin.cn/spost/7617333072935731246

图片1.png

下载完之后,打开docker desktop查看FastGPT的启动情况,全部启动成功。 有时会出现健康检查失败的情况,重新生成一下就能解决.

   docker-compose stop 
   docker-compose rm -f 
   docker-compose up -d 

2.jpg

3、查看FastGPT的启动效果

打开浏览器: http://localhost:3000

image.png

登录用户名为 root,密码为docker-compose.yml环境变量里设置的 ** DEFAULT_ROOT_PSW 。 每次重启容器,都会自动初始化 root 用户,密码为 1234**(与环境变量中的DEFAULT_ROOT_PSW一致)

image.png

4、ollama 下载模型

我这里演示接入ollama本地模型

ollama从官网下载安装包,安装即可。ollama.com/download

image.png

首先下载一个小的数据模型[deepseek-r1:1.5b]: ollama run deepseek-r1:1.5b

image.png

5、模型配置

现在开始配置模型渠道:模型供应商 --> 模型渠道 --> 新增渠道 image.png

image.png

image.png

image.png

image.png

image.png

模型配置成功。。

6、对话本地大模型

进入工作台,创建属于你的第一个agent吧

image.png

image.png

选择刚才配置的AI模型

image.png

image.png

到此本地部署大模型的工作完成啦!!!