Ollama+CherryStudio(1Plane版)

222 阅读1分钟

准备工作

参考《1Plane的AI模块》搭建1Plane

建议配置4C16G以上

安装Ollama

切换到“应用商店”,根据关键字查找Ollama: 点击Ollama的“安装”,设置相关信息,点击“确认”: 等待安装: 确保安装后的状态是“已启动”:

添加大模型

切换到AI--->“模型”界面: 点击“添加模型”,填写需要拉取到大模型: 点击“添加”,等待大模型拉取完成(约20分钟,视网络而定): 日志提示拉取大模型完毕: 大模型界面显示状态为“成功”:

参考:1panel.cn/docs/user_m…

对接CherryStudio

安装CherryStudio

参考《Cherry Studio搭建AI知识库》

接入大模型

在CherryStudio的设置--->模型服务--->Ollama中,填写API地址,API密钥不用填:

如果是云主机,API地址填1Plane的公网地址,且要安全组中开放11434端口

点击管理: 管理界面会显示已经安装的大模型: 点击大模型的加号: 表示将此大模型添加到CherryStudio中: 点击“添加”按钮也可以添加大模型到cherrystudio中。

但是书写有要求,如拉取的是qwen2.5:3b,要写qwen2.5:latest:

测试大模型

点击助手,添加一个默认助手,选择Ollama中添加的大模型: 向它提问: 到此,使用1plane搭建ollama+cherry就完成了。

Tips:可以基于这个方案自建一个知识库

本文在微信公众号“De-仓鼠”同步发布