环境信息
操作系统:windows
低配电脑 (8GB内存):推荐1.5b
高配电脑 (3060/16GB内存):推荐7b
超高配电脑(4090/32GB内存):推荐14B
资源信息
| 资源 | 下载地址 | 说明 |
|---|---|---|
| Ollama | Ollama | 大模型运行工具 |
| AnythingLLM | Download AnythingLLM for Desktop | 大模型可视化工具 |
1.下载Ollama
没什么好说的,下载完 Install 安装
2. Ollama 下载运行Deepseek-r1:1.5b
2.1 检查Ollama安装是否成功
win+R 输入cmd呼出命令行
输入ollama如果跟图一样说明安装成功
2.2 下载Deepseek-r1:1.5b
命令行输入命令:
ollama pull deepseek-r1:1.5b
查看模型
ollama list
运行模型
ollama run deepseek-r1:1.5b
到此就是已经部署完毕了,但命令行不方便使用,并且不方便调参
3.安装 AnythingLLM
3.1下载安装步骤省略,没什么好说的
3.2配置内容
配置中文
新建一个新的工作区
选择LLM提供商,指定Ollama,其他参数不用改
成功
接下来会出文章教大家如何调参能让本地部署的大模型更加实用,如果本文对您有所帮助希望得到您的关注。^^