几步搭建本地AI大模型chat聊天(1)

27 阅读1分钟

本片内容基于ollama和librechat开发,最终实现一个CHATGPT的效果。

image.png

安装 Ollama
ollama.com/download 下载
设置模型安装位置

拉取模型
ollama pull qwen2.5:7b

在本地启动模型
ollama run qwen2.5:7b

使用安装的Ollama