## 一、前言 ##### 1.1、相关资料 dify官网： dify官网教程：参考文档【如何集成Ollama】： dify官网本地化部署ollama + deepseek教程： win11 添加模型代理商报错，参考文档： ##### 1.2、总结解决的问题 1、ollama 软件和模型，安装到D盘，不默认安装到C盘 2、ollama 实现局域网访问 3、ollama 下载模型 llama3.2:3b/deepseek-r1，并实现调用 4、docker相关设置，更改docker Engine配置，更改docker镜像源存放地址，dify使用docker启动，dify相关环境变量更改 5、dify注册管理员账号，dify保存模型代理商不成功/超时问题解决，以及plugin\_daemon镜像源更改，IIS服务占据80端口问题 6、dify保存模型代理商，跟网速、外网有关系，建议能用千兆网，就不要用百兆网，能有网线就不要用wifi，能用梯子就不要不用梯子（如果你不借助fastgithub改变host文件的应用，访问github；很快的话，以下的安装将没有任何阻力，如果存在访问慢的情况，以下安装会存在问题） 7、适当重启电脑，检查系统变量、环境变量、下载的模型；如果安装模型代理商不成功，请更改镜像源；多试几次 ## 二、前期准备 • 操作系统：Windows 11 / Windows 10 相关 • 部署工具：Docker Desktop + Docker Compose • 核心服务： • Dify：v1.0.0（本地Docker部署） • Ollama：v0.1.21（Windows原生安装） ## 三、大语言模型（LLM）基本概念\&AI开发平台前端智能体Ollama + Deepseek AI 开发平台全链路设计与实践；LLM大语言模型有chatGPT ， chatGPT-4，o1， o2， o3-mini，deepseek-r1，LLama 模型应用发展阶段 * Prompt，提问，针对某个专业领域的合适的训练提问 * Agent，智能体，能够编排内容加工输出流程 * RAG，知识库辅助模型输出，得到更贴合我们期望的结果（电商公司，每个企业产品手册） ## 四、安装ollma 注册一个账户，官网： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/2b05b2bbfe784164af948968ee1461c5~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=vhCIefwnofdz3rI5N9EIxBiYzlc%3D) 因为ollama是默认下载到C盘，以及后续模型下载到C盘，如果想将ollama以及其模型文件不默认安装到C盘， #### 4.1 ollama安装到c盘并设置环境变量下载该文件，并安装，安装成功后，执行**ollama -v** 检查版本，**ollama list** 检查下载的模型 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/abb05ca3a2f9491cbd47a243ddb3bb4b~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=OjJE6aZAEx1zMkiFoW6fTXzGAmA%3D) 【补充】因为ollama是默认下载到C盘的，所以模型也会下载到C盘，你将ollama应用安装到C盘中，但是模型想换个地方下载，所以需要提前设置环境变量，更多环境变量，请参考： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/ce83f1f0bd47413bb926031025bf55cf~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=QuHPila18ZLbj0bsxHQKElxLEK4%3D) * **【OLLAMA\_MODELS设置为D:\ollama\models】** 更改ollama的模型的下载位置，需要提前建文件夹 * **【OLLAMA\_HOST设置为 0.0.0.0】** ollama默认只能本机访问(localhost/127.0.0.1)，需要设置为局域网，让其他人也能访问；需要通过添加系统环境变量OLLAMA\_HOST，并将其值设置为：0.0.0.0，来解决 #### 4.2 ollama安装到d盘，模型也下载到d盘，并设置环境变量请参考下文，或者参考文档： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/36b5a46b677649ce93c4652cb65360ca~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=GiZKQdBT1E0xLNQQhsyq3torIeE%3D) 当C盘很小，如果你将ollama安装到D盘中，又需要将models安装到D盘中执行命令 **.\OllamaSetup.exe /DIR="D:\ollama"** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/b8c1961bebf242ebb57e2dff4aa446b9~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=J3LWPyeBWiCOf9wijXUQoN%2B5fg4%3D) 请检查**ollama -v** 是否有版本号 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/af407b62b2af4504bbffebdee2ffa022~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=Qn9JMy7rCmRur2zYIuQSol3OwlI%3D) 请检查**D:\ollama** 是否存在文件 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/7a149b821e0b427cb1ed2676c8a04832~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=rrQzvCxlc9v5Fc1AZtZJoRiEdM0%3D) 环境变量设置；【**OLLAMA\_MODELS设置为D:\ollama.ollama**】更改ollama的模型的下载位置，需要提前建文件夹，**请立即重启电脑，重启后生效** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/155b6c294b384a7594a0f639b3eb2c10~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=ghyUHyYSt5JPpZfJF6ObQ7vrSps%3D) #### 4.3 下载模型我们先下载llama3.2这个模型 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/7c634e9710b24efbadc7e51aeb27e9a9~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=u%2Bk11Decpl7i6qALi%2Biiw7YMgEE%3D) 执行下载命令，**ollama run llama3.2:3b** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/1a8c8093f91c499eaf63d668a5599bd4~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=uaPFuSO15WsvWT1Y6G92sAlo64A%3D) 我们再需要下载**deepseek-r1** , 7b这个版本 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/a73856639d9d4fee8335910a9ea3df87~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=1By8sXy%2BgMiW9x1WJ%2F6T53volUg%3D) 通过cmd输入命令 **ollama -h** , 查看ollama相关命令；通过 **ollama list** 查看下载的模型 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/6355c9ce11c44642affe91d8b572d311~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=6j3poAetgnVsGhJsk5rbODiBI3s%3D) 通过命令 **ollama run deepseek-r1:7b** 命令【注意，不要直接执行**ollama run deepseek-r1**，后面还有:版本】，下载7b的模型当我们将模型下载完毕后，执行 **ollama run deepseek-r1:7b** 将模型启动起来 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/2f2782228ccc4d4794ec0a1c04d7c7b1~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=AtAUGCVXbIovZJGwne%2FGBPPTGt4%3D) 【补充】ollama相关命令 * **ollama rm \**，删除模型是不可逆的，请确保备份重要数据。 * **ollama serve** 启动ollama 【补充】ollama 默认只能本机访问，如果需要局域网访问，请进行以下操作访问 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/14c3b651b0ab4ba9859ea59dcbe4668b~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=uzFOTKclskooUsr67Fb0b7NJuZc%3D) 访问 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/91426b0dea6b43bdacb20de66d0edfec~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=c9Ex%2FuYL7H3y%2FNefDFsUUm4Nfh4%3D) ## 五、安装开发平台dify，并安装docker ##### 5.1、dify和docker下载安装 dify,github地址： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/ed19c5e052684d2a80050441b10bee0c~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=Je7kstLBqb06%2Fl%2BNNBdEGGq7YkY%3D) docker官网： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/c53e41c0121940698a0d5ae07f700b85~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=ah9aSGWIW%2Br7fB69CqBoVAy%2FwV8%3D) ##### 5.2、docker相关配置 docker对windows有要求 * window10 64位 / windows 11 64位 * Hyper-v和容器功能，需要在windows功能中启用 * WSL2, windows子系统Linuix的第二版，用于提高docker性能如何更改docker镜像文件默认存储路径，更改到D盘中 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/9981d8102e7345a5a24c833e559082dc~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=QPcqzoKM8Ov%2BO9MhzzyrZwLPOoo%3D) 更改docker engine 配置，因为docker下载的镜像使用docker默认配置的，可能安装不上 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/cacf604f09794957a4c2ec6e2ed9a170~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=V8Y6QhOzwRHsaYOMBMX71w6GHJ4%3D) ```json { "builder": { "gc": { "defaultKeepStorage": "20GB", "enabled": true } }, "experimental": false, "registry-mirrors": [ "https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com", "https://docker.m.daocloud.io", "https://hub-mirror.c.163.com", "https://mirror.baidubce.com", "https://your_preferred_mirror", "https://dockerhub.icu", "https://docker.registry.cyou", "https://docker-cf.registry.cyou", "https://dockercf.jsdelivr.fyi", "https://docker.jsdelivr.fyi", "https://dockertest.jsdelivr.fyi", "https://mirror.aliyuncs.com", "https://dockerproxy.com", "https://mirror.baidubce.com", "https://docker.m.daocloud.io", "https://docker.nju.edu.cn", "https://docker.mirrors.sjtug.sjtu.edu.cn", "https://docker.mirrors.ustc.edu.cn", "https://mirror.iscas.ac.cn", "https://docker.rainbond.cc" ] } ``` ‌pypi镜像源，下方安装python依赖的时候会用上： * 清华大学镜像源‌：，该镜像源更新及时，速度较快，是一个优秀的pip镜像源‌ * 阿里云镜像源‌：，该镜像源资源丰富，下载速度较快，是一个不错的选择‌ * 华为云镜像源‌：，该镜像源提供稳定的镜像服务，适用于多种网络环境‌ * 中国科学技术大学镜像源‌：，该镜像源更新速度较快，适合对包版本有要求的用户‌ * 腾讯云镜像源‌：，该镜像源提供全面的Python包资源，方便用户下载‌ * 豆瓣镜像源‌：，该镜像源也是一个常用的选择‌ ‌ ##### 5.3、使用docker部署dify dify官网docker教程：在启动dify之前，需要关闭任何可能会更改电脑host文件的程序，例如需要访问github的FastGithub.UI 先进入项目中的docker文件夹下 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/3a9265b537e54166973f77a520f3730e~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=TYMfKC0H9nk1c7rxOWDv9ptzrbw%3D) 执行命令，**copy .env.example .env** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/a0ac7f7bb99e418a9991db23693e83e7~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=QoN%2BugXB905TqhY19RGPB8Ib2n8%3D) 执行命令启动，**docker compose up -d**；-d表示不看错误日志，或者使用**docker-compose up** 启动，使用完毕，执行命令关闭，**docker compose down** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/a0da94dd68b04c93b63e3672384ca096~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=2%2BG6Sb%2FtmG01Aawsy2gTLio9N8U%3D) 创建成功 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/3cd2887a88694001831aaa8b4f640d7f~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=un6o1JrkRFsFM6dnOgkmzUU933w%3D) 面板中可以看见容器已经启动了 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/262798287f784aba80d0a5d96ad7a356~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=oUy6fZJf5B%2BIjzlYo4MDsKovi%2Fw%3D) 检查容器状态 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/3dc65f0d3f714968bfc60b130a047a61~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=6UbsBxRMeaUbJjcJm2g5%2BkXgGxg%3D) ## 六、访问dify前端界面访问，先设置管理员账户 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/d10c3e88454544a6bbfdcb825053306c~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=du3SwkcPLL2uKBjBeaLrgy9zV2U%3D) 注册好之后，登录进入： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/e021447ba87f451ea41932b9effb876a~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=4BX9tVIpjQSq3hihU%2F%2F1ZWFkSLI%3D) **【问题】可能访问localhost会加载不出来，可能是因为host文件更改过，80端口被占用** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/64dc8a06f77241f68048a93d6c5f509e~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=4R9tPfXYuFYqFBWaKLztp6IUhfE%3D) ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/5ea04a359bf2410d8538dc903c2384ab~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=1PdBIKIQ2fyJm7BXb4kr%2Bkl50Tw%3D) ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/6a442bbf1f0d41bc8a30a3c7e2d9a389~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=2gW09DUFuKDtc28kN%2Fnk%2Fw%2F0jjw%3D) 排查发现是IIS占用了80端口，管理员身份使用powerShell关闭IIS服务，执行命令： **iisreset /stop** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/812011785450444e86dc50b0ff8a66ab~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=Gtjilq8GDg6G2W4EdlD3kE39d1o%3D) 在**diff-main/docker/.env**文件下加入环境变量，我们这边先强制指定默认模型**DEFAULT\_MODEL=llama3.2:3b** ；如果需要自定义请打开**CUSTOM\_MODEL\_ENABLED=true** ```js # Ollama服务地址（容器访问宿主机） OLLAMA_API_BASE_URL=http://host.docker.internal:11434 # 强制指定默认模型（需与Ollama模型名完全一致） DEFAULT_MODEL=llama3.2:3b # # 启用自定义模型 # CUSTOM_MODEL_ENABLED=true ``` 从Dify容器内部测试Ollama接口：docker exec -it docker-api-1 curl 效果如下，表示调用成功 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/cf52598405f547808030d05607fdb2bf~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=55C61eIxRNngzlUOlmXkubd4Ch8%3D) 重新启动docker服务，访问 ,在dify平台中引入 **llama3.2:3b** 模型 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/efa096804f354bbeb56755b755c1f399~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=lqGJOaJfM5DsxpOJjhxU3GzzUpo%3D) ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/da7030864ae7437b9d3bc6dc1e6a84e7~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=u18GBJG0%2BsbIvzVqiEZAhXOEeoE%3D) ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/2015ac481d2744ecbb5cac39c201873b~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=%2B%2BExXhKE4pSCusVAfUMFgwDkVdk%3D) 安装成功后，需要刷新一下，ollama插件安装不成功，就多试几次 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/a433f8d4dc8c4b52b14bee4aee1ca7b7~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=MR4ZS9lxysiWQJIr%2FZDCQ9Q7EJc%3D) 添加ollama模型，关键的一步 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/3a5fe1c2c5464b70a47a04e191cda183~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=2ZKlTWHG5KZb9FijqdsX3dyWtf4%3D) ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/d163e63a7bfe439da76efe523d51d082~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=9vqeESmYCgwCv9ktCSYhpuh6ZWQ%3D) 其他默认，点击保存，等待接口models响应，**这里有一个docker连接的问题，很容易卡在这里，因为下载一些外网的东西，models这个接口很容易不响应并报错** 因为存在错误，参考文档： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/7d5f550b0dcb48878921c1c33f68e9bc~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=l08tMIaDFtRJRY7HpNEVxGjmPHE%3D) 上述错误，描述的是插件守护进程超时导致api无法正常工作。所以需要替换源；如果你在使用Dify时遇到了“PluginDaemonInternalServerError: killed by timeout”的错误，可以通过设置以下两个环境变量来解决：你需要在`docker-compose.yml`文件中新增以下配置： ```bash plugin_daemon: image: langgenius/dify-plugin-daemon:0.0.3-local restart: always environment: # Use the shared environment variables. <<: *shared-api-worker-env # 新增下面这两个 PYTHON_ENV_INIT_TIMEOUT: ${PYTHON_ENV_INIT_TIMEOUT:-640} PIP_MIRROR_URL: https://pypi.tuna.tsinghua.edu.cn/simple ``` ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/929663235cb749b49fb4b16d16b635c8~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=yccbLDo5B3uUm8xWmJ%2Bb%2FS1TcEA%3D) **重新启动docker**，重新进入，重新操作添加模型操作，等待models接口返回；如果清华的镜像源不行，则换其它的 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/2b1626be09b04437948eeee6a99c5f82~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=a%2BUgUziJrcUuE%2FxFPJvorgG4BJI%3D) 由上文得知，我们是强行强制指定默认模型llama3.2:3b ；如果添加其他模型，models接口一定会报错，如果我们想再加其他模型，需更改环境变量，如下图，**重启docker服务** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/bb424b5dc7384959a2099d043b649b87~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=SzcS2QSUXd4zBbZPOMZ2hN%2BN63Y%3D) 访问： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/4a8f629ed8f14c91ad69f70a0662cd75~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=ibzGIBXGa7Y5w94BR8XxhIU4s%2Fo%3D) 我们需要加的 **deepseek-r1:7b** 模型 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/ee7982a33bf6413890f8dfeb4ebe5b0c~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=usO8RtweVRr%2BapewRjXBivsKXBo%3D) 只要我们上一次成功过，那么后续的模型添加就好说了 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/a32918f7e60f4cd6981484d5d66f3995~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=m%2B%2F3Y7%2F31K9Cc9iYkl2aptthkgo%3D) ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/af49aa2c14a841a3bb9bbeadbb1edcbb~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=Y5NyVuLIY7xCn%2FEVCL3lwjNhWXQ%3D) 如果你现在情况是不需要ollama本地化部署，那么我们可以通过相关模型平台的API Key实现模型API调用；这里我们以硅基流动为例安装硅基流动插件，并输入API key ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/96dd44cd6c0d4a8cb3742a0313df5c56~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=fffWg%2BbT%2B2EpGW29pxvvJ4BP8jc%3D) 硅基流动登录：邀请码： **Z6pZwzxp** ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/6b22b0578b6547f5aa10a5fb278f80f2~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=zshE%2BQBaNcQEO%2FMZwcbd7djdoAM%3D) ## 七、创建应用 ##### 7.1、添加知识库 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/9a7395cbf39c4003b3cf8924f23042d8~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=bfA5TTD4kEf2LNIPsLJ9wsGDkHg%3D) 《我的第一本算法书》提取码：h2xc ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/fa3b6064e0f4430c98481eeee36eeec2~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=NKuuKvfDf7XvXR60KOWprm0Y6LM%3D) 等待其解析完成 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/dbe0d1f390e5413c9afa6e6a1a505c5c~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=pwK7hoy98iWx4CLFeOhcVZSSIoY%3D) 进入编排 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/e1f0e07d41c64a6f9e6b71c5b7204313~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=5EzoR33U0TJJvhnAO9wxCrFTsLA%3D) ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/4da9a9e097f441a7ae281e122fe264a6~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=4Q7ZX8EHp2srb%2BovIDVj6%2Bjl1nM%3D) 提示词编排： ```js Use the following context as your learned knowledge, inside XML tags. {{#context#}} When answer to user: - If you don't know, just say that you don't know. - If you don't know when you are not sure, ask for clarification. Avoid mentioning that you obtained the information from the context. And answer according to the language of the user's question. {{pre_prompt}} {{query}} ``` ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/9ba7007978c144f8a7ff9c0b3ee85d68~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=XzPfaBdOaSTZxsppUhRYaixB%2BqU%3D) 输入问题，效果如下： ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/2e4b928139084450a14b7b0f0f068df3~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=fAom39CJNTIP72GivXUCqpBst7E%3D) 换成deepseek-r1 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/700f69a799d24e10bc7a78dd294b0186~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=OwP3VUAQZh40v4TMMd66Z5wpQIE%3D) 有的模型在生成会话的过程中，会卡顿，生成的，因为我这台电脑是没有显卡的；这里AI应用的回答不一定能够满足用户需求，所以需要用户手动调整参数 ![Image.png](https://p3-xtjj-sign.byteimg.com/tos-cn-i-73owjymdk6/790a50b9df0c46c2bb979d9b238a344a~tplv-73owjymdk6-jj-mark-v1:0:0:0:0:5o6Y6YeR5oqA5pyv56S-5Yy6IEAg5YmN56uv5qKt5ZOI5pS75Z-O54uu:q75.awebp?rk3s=f64ab15b&x-expires=1757653904&x-signature=psCYURyUV0Wtw9pWksATspf%2FloA%3D) ## 八、应用部署完毕花了我3-4天的时间去研究，模型代理商保存卡了我很久如果对您有帮助，请给我点个赞吧。。。完结撒花。。。