手把手教你本地部署 Dify + Qwen3 大模型,打造专属 AI 助手!保姆级教程来了!

2,576 阅读2分钟

1️⃣ 安装 Docker —— 打开 AI 世界的钥匙 🐳

🔗 官网直达:www.docker.com/  

第一步:访问 Docker 官网 → 点击【Download Desktop】按钮下载安装包 → 根据电脑选择 Windows AMD 版本(其他系统选对应版本即可)!  

图片

📌 安装提示:双击安装包 → 点击【OK】确认安装 → 安装完成后桌面会出现 Docker 鲸鱼图标!  

图片

💡 首次启动:双击图标 → 点击【Accept】接受协议 → 提示登录?直接点击【Sign up】注册账号即可!  

图片图片

✅ 登录成功:界面出现鲸鱼标志和“Containers”标签页 → Docker 安装完成!  

图片

2️⃣ 安装 Ollama —— 本地大模型运行的核心 🔥

🔗 官网直达:ollama.com/  

操作步骤:进入官网 → 点击【Download for Windows】下载客户端 → 双击安装包一键安装!  

图片

📌 无需配置:安装后自动完成环境变量设置 

✨ 验证成功:  

图片

3️⃣ 部署 Qwen3 大模型 —— 让 AI 为你打工 💡

🔗 模型库直达:ollama.com/library/  

选模型秘诀:Qwen3:8B 性价比超高!性能吊打 DeepSeek R1,小白首选!  

image.png

📌 安装指令:复制页面上的 ollama pull qwen3:8b 命令 → 粘贴到命令行回车执行!  

image.png

🔄 下载过程:命令行显示 [===>] 进度条 → 等待 5-10 分钟(根据网络速度)→ 出现 success 提示!  

image.png

🧪 测试大招:输入 ollama run qwen3:8b → 输入问题“你好吗?” → 模型秒回复 → 本地部署成功!  

image.png 4️⃣ 安装 Dify —— 搭建 AI 助手的百宝箱 🧰

🔗 GitHub 下载:github.com/langgenius/…  

操作流程:点击【Code】→ 【Download ZIP】下载压缩包 → 解压到本地文件夹 → 双击进入 dify/docker 目录!  

image.png

image.png

🔧 配置关键:  

  1. .env.example 重命名为 .env  

image.png

  1. 用记事本打开 .env → 滚动到文件末尾 → 添加以下两行:  

   ```  

   CUSTOM_MODEL_ENABLED=true  

   OLLAMA_API_BASE_URL=host.docker.internal:11434  

   ```  

image.png

  1. 保存文件 → 右键点击文件夹空白处 → 选择【Open Terminal】→ 输入命令:  

   ```bash  

   docker compose up -d  

   ```  

image.png

🔄 启动成功:终端显示如下

image.png

 → 浏览器访问 http://127.0.0.1/install → 填写邮箱、用户名、密码 → 点击【设置】!  

image.png

🎉 恭喜!出现 Dify 首页 → 本地部署完成!  

image.png

5️⃣ 关联 Dify 与 Qwen3 —— 让 AI 助手听你的指令 🎯

操作步骤:  

  1. 登录 Dify → 点击右上角头像 → 选择【Settings】

image.png

→ 选择模型供应商

image.png

  1. 找到 Ollama → 点击【Install】按钮 → 等待安装成功!  

image.png

  1. 点击【Add Model】

image.png

→ 填写:  

   - Model Name: qwen3:8b  

   - Base URL: http://host.docker.internal:11434  

   - 其他参数保持默认 → 点击【Save】  

image.png

  1. 创建助手:点击【Create App】→ 输入名称(如“我的Qwen3助手”)→ 选择【Chat】模板 → 点击【Create】  

image.png

🚀 大功告成:进入助手页面 → 开始和你的本地 AI 聊天吧!  

image.png

📌 常见问题 & 小贴士

  • Docker 启动失败?关闭杀毒软件/防火墙重试!  

  • 模型下载太慢?科学上网或更换网络环境!  

  • 内存不足?推荐电脑至少 16GB 内存!  


📢 关注我,回复【Dify】获取所有安装包和配置文件模板!  

💬 有问题欢迎评论区留言,我会一一解答!  

🔥 收藏+转发,让更多小伙伴学会本地部署大模型!