3.5.3 Dify 大语言模型的配置

2 阅读4分钟

一、要解决什么

目标:一键接通大模型 —— LLM 配置全流程

完成后你将能够:

  1. 理解 Dify 「模型供应商(Model Providers)」 机制,并在设置页新增可用模型  

  2. 会配置 默认推理模型、Embedding 模型(以及后续 Rerank 等),为 RAG、Agent、工作流 打基础  

本地 Studio 地址示例为 localhost:11435(以你本机映射端口为准)。


二、前置条件(动手前先核对)

| 项目 | 说明 |

| --- | --- |

| Dify 已部署 | 本地 Docker Compose 已拉起,能正常登录控制台 |

| Docker 状态 | 容器必须先跑成功;若环境未就绪就点安装,插件容易装不上 |

| API 凭证 | 准备 硅基流动 的 API Key(可在浏览器另开 SiliconCloud 页面获取) |

| 网络 | 本机能访问硅基流动 API 域名 |

安装供应商前,先保证 Docker 部署是成功的——这是后面一切模型配置的前提。


三、进入「模型供应商」

  1. 登录本地 Dify 控制台  

  2. 左侧进入 设置 → 模型供应商  

  3. 页面会列出 已安装 / 可安装 的各家厂商卡片(OpenAI、Anthropic、DeepSeek、Ollama、Gemini 等)  

这里是全站模型的 统一入口:后面应用、知识库、工作流里选的模型,都依赖这里先接好。


四、安装硅基流动插件

下文以 **硅基流动(SiliconFlow) ** 为例 —— 通过 API Key 可接入 LLM、文本嵌入、Rerank、语音 等多类模型。

1. 点击安装

「安装模型供应商」 区域找到 硅基流动 卡片 → 点 安装 → 弹出 「安装插件」 对话框 → 确认插件信息与能力说明 → 点蓝色 「安装」

2. 安装成功的标志

出现 「安装成功 / 插件已成功安装」 弹窗(插件标识如 langgenius / siliconflow),关闭后,列表里会 多出硅基流动这一项——与安装前相比,这是最直观的变化。

3. 装不上怎么办

安装依赖后台拉取插件,偶发会失败。若长时间无成功提示:

  • 回到模型供应商页 重新点一次安装  

  • 同时再确认 Docker 是否仍在正常运行  

不要跳过环境检查反复点装。


五、配置 API Key

安装 ≠ 可用。装完后卡片上 API-KEY 常显示 **待配置(红点) **。

  1. 点硅基流动卡片上的 设置 / 添加  

  2. 「添加硅基流动」 弹窗中填写 API Key  

  3. 可点 「从 SiliconFlow 获取 API Key」 跳转官网创建密钥  

  4. 保存后,Key 状态变为 **已配置(绿点) **;页面会显示该供应商下 可用模型数量(常见为数十个,具体以控制台为准)  

弹窗底部有说明:密钥经加密存储(界面展示 PKCS1_OAEP 等字样),按平台默认安全策略即可。


六、系统模型设置(必做)

仅填好供应商 Key,右上角仍可能出现黄条:「系统模型尚未完全配置」。需要再点 「系统模型设置」,为各 模型类型 指定默认项。

可参考如下默认组合(在硅基流动模型列表中按需替换):

| 类型 | 推荐配置 |

| --- | --- |

| **系统推理模型(LLM) ** | deepseek-ai/DeepSeek-V3(CHAT) |

| Embedding 模型 | BAAI/bge-m3(TEXT EMBEDDING,上下文约 8K) |

Embedding 下拉里还能看到 bce-embedding-base_v1bge-large-zh-v1.5 等,按你的 语种、成本、向量维度 换即可。

配置完成后,黄条应消失或减轻;此后创建 聊天助手、工作流、知识库 时才能直接选到默认模型。


七、流程回顾

完整路径可记为 「设置 → 模型供应商 → 安装 → 填 Key → 系统模型设置」 五步:

  1. 进入模型供应商 —— 统一管理入口  

  2. 添加 LLM 厂商 —— 以硅基流动为例,其他厂商同样点安装 + Key  

  3. 设定默认模型 —— 推理、Embedding 等分类型指定  

完成后,本地 Dify 才算 真正接通大模型,即可开始做 RAG、Agent、插件等能力。


八、小结

| 步骤 | 要点 |

| --- | --- |

| 1 | 本地 Dify + Docker 先跑稳 |

| 2 | 设置 → 模型供应商 |

| 3 | 安装 硅基流动 插件,失败则重试 |

| 4 | 填写 API Key 直至绿点 |

| 5 | 系统模型设置 里指定推理模型与 Embedding |

接下来可在应用/知识库里 选用刚配好的默认模型,或继续接入 OpenAI、DeepSeek 等其他卡片——流程相同,只是 Key 来源不同。