本地大模型管理工具 Herdsman（牧马人本地推理引擎） 支持开启 OpenAI 兼容格式的开放 API 接口，可让 Cherry Studio 直接调用本地已部署的大模型，实现本地模型在 Cherry Studio 中的对话、推理等功能。
操作流程
- Herdsman中先下载好要使用的模型，然后到Herdsman的设置中，打开API的局域网访问开关
- 到Cherry Studio中添加新的模型服务提供商
- 提供商名称可以填写：Herdsman或其他自己能明白意思的名称，提供商类型保持OpenAI不用改，点击确定。
- 密钥填写：123即可，因为本地服务其实没有密钥验证，所以这里可以随便填内容，都没有关系，API地址填写：http://localhost:8080/v1，这个地址在HerdsMan的接口文档中可以查到
- 在自定义的HerdsMan模型获取模型列表，点击加号
6.模型ID需要到HerdsMan的模型管理菜单里查看，下载好的模型名称后面有一个复制按钮，点击那个复制按钮即可
7.然后把复制好的模型名称粘贴到模型ID里，模型名称和模型分组回自动带出来，模型名称和模型分组可以根据自己的习惯进行修改，填好之后点击添加模型按钮即可
- 模型添加好以后，点击检测按钮
9.然后选择一个你添加好的模型，点击确定按钮
10.等一会提示连接成功就说明Cherry Studio里已经配置好了，可以使用了。
小贴士
- 核心前提：Herdsman 已下载模型并开启 API 局域网访问，接口为本地 http://localhost:8080/v1（OpenAI 兼容）。
- 关键配置：Cherry Studio 以 OpenAI 类型接入，密钥可随意填写（本地无验证），模型 ID 从 Herdsman 模型管理复制。
- 验证标准：点击检测并选择模型，提示连接成功即完成配置，可正常在 Cherry Studio 调用本地模型。
非常感谢社区用户 @神V行 的贡献
Herdsman（牧马人本地推理引擎）下载地址：FlowyAIPC — 让你的PC真正成为主动生产工具
