Ollama 入门:本地跑通第一个大模型

99 阅读1分钟

1. Ollama 是什么

Ollama 可以理解为一个本地的“大模型运行环境 + 模型管理工具”。在命令行里它主要解决:

  • 模型的下载与版本管理
  • 模型的运行与交互
  • 本地服务的启动

2. 安装与验证

2.1 安装

官网下载安装对应系统版本

安装完成后,打开终端验证:

ollama -v

image.png

3. 拉取一个模型

选择一个模型,然后执行pull命令。示例:

ollama pull qwen3:latest

用命令查看模型具体的信息:

ollama show qwen3:latest

image.png

4. 运行模型并在终端对话

拉取完成后直接运行:

ollama run qwen3:latest

进入交互后,你就可以像聊天一样输入内容并回车。例如:

  • 解释一下什么是大语言模型,用 3 句话。
  • 把下面这段话改写得更正式:...
  • 用 JSON 输出:给我 3 个学习计划,字段含 title、days、goal。

image.png

5. 常用命令

5.1 查看本机已安装模型

ollama list

5.2 运行某个已下载模型

ollama run qwen3:latest

5.3 删除已安装模型

ollama rm qwen3:latest

5.4 查看命令帮助

ollama --help