人工智能

今天又接客户电话，让帮部署一台算力服务器，里面八张GPU卡，安装的Ubuntu系统。 环境准备 使用lsblk查看了一下磁盘空间，发现SDA3下面创建了一个逻辑组和逻辑卷，但还有244G空间剩余。 所

部署前准备 环境要求 操作系统：Linux/MacOS/Windows(WSL2) Docker:>20.10版本 GPU支持，需要CUDA 验证Docker环境 docker --version 部

今天看到几个不错的插件，想离线部署到内网服务器上，开始以为从dify的市场上下载下来，然后在内网上本地安装插件就可以了，但是经过测试，发现安装过程特别慢，并且很不稳定，报安装成功，但是在插件列表里面看

任务：需要将上一篇文章# CentOS 7.9部署OpenWebUI（容器方式）部署的OpenWebUI离线迁移到一个内网服务器上 1、停止OpenWebUI容器： docker stop open-

代码仓库:https://github.com/open-webui/open-webui 按照官方文档： 由于我在服务器上安装有Ollama，因此使用官方提供的脚本： -d:在后台运行容器 -p:配

中间接手一台服务器，应客户要求部署DeepSeek-r1:32B，服务器是一台公司定制的，里面安装了四张英伟达的T4卡，好在开机后发现已经安装了CentOS7.9，并且也已经安装了英伟达的显卡驱动，能

1.在Dify添加模型供应商： 模型名称就是Ollama下本地下载的模型，可以通过ollama list 查看 2.主要在基础URL这里，按照Dify官方文档： host.docker.interna

Dify 它是一个开源 LLM 应用开发平台。拥有直观的界面结合了 AI 工作流、RAG 管道、代理功能、模型管理、可观察性功能等，可以快速从原型开发到生产。 采用Docker方式部署 因为部署了宝塔

默认情况下，按照官方脚本ollama将会安装到/root/.ollama或者当前用户的home目录下的.ollama目录内。 如果希望将ollama安装在其他目录，在执行官方脚本之前，可以通过设置OL

验证本机是否安装成功Ollama ollama -v 查看本地的模型 ollama list 运行模型 ollama run deepseek-r1:1.5b API接口 使用ApiPost软件，地址