Ollama 的下载安装

21 阅读2分钟

一、Ollama是什么?

Ollama 是一款卓越的开源项目,它极大降低了在本地环境部署大语言模型(LLM)的门槛。如果说 Docker 是通过容器化技术管理数据库、中间件等外部依赖的利器,那么 Ollama 则可以被视为“大模型界的 Docker”——它专注于大模型的全生命周期管理。通过将复杂的模型下载、安装及交互流程封装简化,Ollama 让用户能够一键运行 LLaMA-3、Mistral、CodeLLaMA 等主流模型。此外,它还提供了高度的灵活性,支持用户根据特定需求对模型表现进行个性化微调。

二、安装Ollama

  • 1.打开Ollama的官网:Ollama
  • 2.找到并点击“Download”按钮,按照自己的操作系统,选择合适的版本
  • 3.下载下来后不要急着安装,首先更改安装目录,因为Ollama默认是安装到C盘,并且中途不可选其他目录,所以我们在安装之前需要先更改安装目录,找到并打开Ollama下载到的文件夹,点击文件夹上方的地址栏,清空路径并输入cmd,按回车。在弹出的黑色窗口中输入(注意中间有空格):
  • OllamaSetup.exe /DIR="D:\Ollama"
  • 输入完成后点击回车,此时会强制安装到指定盘。

⚠️ 非常重要的补充:关于模型存储位置 即使你把 Ollama 软件本身安装到了 D 盘,它下载的 AI 模型(非常占空间) 默认还是会存放在 C 盘 (C:\Users\用户名.ollama\models)。 如果你是因为 C 盘空间不足才想安装到 D 盘,你必须设置“环境变量”来修改模型的存放位置:

1. 确保变量已正确添加至系统

  • 1.按下 Win + R,输入 sysdm.cpl,回车。
  • 2.点击  “高级”  选项卡 ->  “环境变量”
  • 3.在 “用户变量” 或 “系统变量” 中点击 “新建”:
  • 变量名:OLLAMA_MODELS
  • 变量值:D:\devSoft\Ollama\models
  • 4.确定并保存所有窗口。

2.必须彻底重启 Ollama

这是很多用户容易忽略的一步。设置完环境变量后:

  • 1.在任务栏右下角找到 Ollama 的图标(一只小羊驼),右键选择 "Quit Ollama"。
  • 2.重新打开 Ollama 软件。
  • 3.(可选)重启电脑。重启后,新启动的 Ollama 进程才会读取到你刚才设置的 D 盘路径。

3.验证是否成功

  • 可以通过以下方式验证路径是否生效:
  • 打开 CMD(命令行),输入一个下载命令(比如下载一个很小的模型):
  • ollama pull library/tinyllama
  • 下载开始后,你去看一下 D:\devSoft\Ollama\models 文件夹。
  • 如果里面出现了 blobs 和 manifests 这两个新文件夹,说明设置成功了!
  • 如果 D 盘还是空的,而 C 盘 C:\Users\你的用户名.ollama\models 变大了,说明变量没生效。