Ollama+LobeChat在windows部署

1,204 阅读1分钟

Ollama

安装Ollama的Windows版本

Download Ollama on Windows

image.png

双击安装exe即可

验证安装是否完成

image.png

下载模型

library (ollama.com)

image.png

在cmd中下载

image.png

测试api是否可用浏览器上访问 127.0.0.1:11434/api/tags

image.png

问题: 当前只开启了本机访问,要开启ip访问,让lobeChat接入 编辑系统环境变量,添加OLLAMA_HOST=0.0.0.0

image.png

访问ip测试api可用 192.168.99.123:11434/api/tags

LobeChat

当前只支持docker安装

本地大语言模型(Local) · LobeChat Docs (lobehub.com)

docker启动命令

docker run -itd -p 3210:3210 -e OLLAMA_PROXY_URL=http://192.168.99.123:11434/v1 lobehub/lobe-chat

访问LobeChat http://192.168.99.172:3210/ 检测Ollama是否可用

image.png

开始使用

image.png