一、Ollama是什么?
Ollama 是一款卓越的开源项目,它极大降低了在本地环境部署大语言模型(LLM)的门槛。如果说 Docker 是通过容器化技术管理数据库、中间件等外部依赖的利器,那么 Ollama 则可以被视为“大模型界的 Docker”——它专注于大模型的全生命周期管理。通过将复杂的模型下载、安装及交互流程封装简化,Ollama 让用户能够一键运行 LLaMA-3、Mistral、CodeLLaMA 等主流模型。此外,它还提供了高度的灵活性,支持用户根据特定需求对模型表现进行个性化微调。
二、安装Ollama
- 1.打开Ollama的官网:Ollama
- 2.找到并点击“Download”按钮,按照自己的操作系统,选择合适的版本
- 3.下载下来后不要急着安装,首先更改安装目录,因为Ollama默认是安装到C盘,并且中途不可选其他目录,所以我们在安装之前需要先更改安装目录,找到并打开Ollama下载到的文件夹,点击文件夹上方的地址栏,清空路径并输入cmd,按回车。在弹出的黑色窗口中输入(注意中间有空格):
- OllamaSetup.exe /DIR="D:\Ollama"
- 输入完成后点击回车,此时会强制安装到指定盘。
⚠️ 非常重要的补充:关于模型存储位置 即使你把 Ollama 软件本身安装到了 D 盘,它下载的 AI 模型(非常占空间) 默认还是会存放在 C 盘 (C:\Users\用户名.ollama\models)。 如果你是因为 C 盘空间不足才想安装到 D 盘,你必须设置“环境变量”来修改模型的存放位置:
1. 确保变量已正确添加至系统
- 1.按下 Win + R,输入 sysdm.cpl,回车。
- 2.点击 “高级” 选项卡 -> “环境变量” 。
- 3.在 “用户变量” 或 “系统变量” 中点击 “新建”:
- 变量名:OLLAMA_MODELS
- 变量值:D:\devSoft\Ollama\models
- 4.确定并保存所有窗口。
2.必须彻底重启 Ollama
这是很多用户容易忽略的一步。设置完环境变量后:
- 1.在任务栏右下角找到 Ollama 的图标(一只小羊驼),右键选择 "Quit Ollama"。
- 2.重新打开 Ollama 软件。
- 3.(可选)重启电脑。重启后,新启动的 Ollama 进程才会读取到你刚才设置的 D 盘路径。
3.验证是否成功
- 可以通过以下方式验证路径是否生效:
- 打开 CMD(命令行),输入一个下载命令(比如下载一个很小的模型):
- ollama pull library/tinyllama
- 下载开始后,你去看一下 D:\devSoft\Ollama\models 文件夹。
- 如果里面出现了 blobs 和 manifests 这两个新文件夹,说明设置成功了!
- 如果 D 盘还是空的,而 C 盘 C:\Users\你的用户名.ollama\models 变大了,说明变量没生效。