30 分钟搭建你的第一个本地 AI 助手(Ollama 入门教程)

36 阅读6分钟

掘金文章 - 第一章

标题(选一个)

  1. 《30 分钟搭建你的第一个本地 AI 助手(Ollama 入门教程)》 ⭐ 推荐
  2. 《零基础上手 Ollama:本地部署大模型,完全免费无限用》
  3. 《打工人必备!本地 AI 助手安装指南,数据不出电脑更安全》

封面图建议

找一张:

  • Ollama 官网截图
  • 终端运行截图
  • 或者用 unsplash.com 的 AI/科技类图片

正文内容

# 30 分钟搭建你的第一个本地 AI 助手(Ollama 入门教程)

> 从零开始,用 Ollama 在本地运行大模型,无需联网、无需 API 费用、数据完全私有
> 
> **本文是《Ollama 实战教程》第一章,免费试读** 🎁

---

## 一、什么是 Ollama?

### 一句话介绍

Ollama 是一个**本地大模型运行工具**,让你在自己的电脑上运行 AI 模型,无需联网、无需 API 费用、数据完全私有。

### 为什么需要本地 AI?

想象一下这些场景:

| 场景 | 云端 API | 本地 Ollama |
|------|----------|-------------|
| **隐私敏感** | ❌ 数据上传到云端 | ✅ 数据完全本地 |
| **网络不稳定** | ❌ 无法使用 | ✅ 离线也能用 |
| **高频调用** | ❌ 费用爆炸 | ✅ 免费无限用 |
| **定制化需求** | ❌ 受限 | ✅ 完全可控 |
| **延迟要求** | ⚠️ 网络延迟 | ✅ 本地响应 |

### Ollama 的优势

1. **开箱即用** - 一条命令安装,一条命令运行
2. **模型丰富** - 支持 Llama、Qwen、DeepSeek 等主流模型
3. **跨平台** - Windows、macOS、Linux 全支持
4. **免费开源** - MIT 协议,完全免费
5. **社区活跃** - 持续更新,问题容易解决

### 适用人群

-**开发者** - 代码审查、Bug 调试、文档生成
-**内容创作者** - 文案写作、标题优化、脚本创作
-**学生** - 学习辅助、概念解释、论文润色
-**职场人士** - 周报生成、邮件润色、数据分析
-**隐私敏感用户** - 数据不出本地,完全可控

### 不适用场景

- ❌ 需要最新知识(本地模型知识有截止时间)
- ❌ 需要超大上下文(本地显存/内存有限)
- ❌ 需要多模态(纯文本模型,不支持图片/视频输入)

---

## 二、安装与配置

### 系统要求

| 配置项 | 最低要求 | 推荐配置 |
|--------|----------|----------|
| **操作系统** | Windows 10 / macOS 11 / Linux | 最新稳定版 |
| **内存** | 8 GB | 16 GB+ |
| **存储** | 10 GB 可用空间 | 50 GB+ SSD |
| **显卡** | 非必须 | NVIDIA 8GB+ 显存 |

> 💡 **提示:** 没有独立显卡也能用,只是推理速度慢一些。

---

### Windows 安装

#### 步骤 1:下载安装包

访问官网:https://ollama.com/

点击 **"Download for Windows"** 下载安装包。

#### 步骤 2:运行安装程序

双击下载的 `.exe` 文件,按提示安装。

#### 步骤 3:验证安装

打开 PowerShell 或 CMD,运行:

```bash
ollama --version

看到版本号说明安装成功:

ollama version is 0.1.32

macOS 安装

方法 A:官网下载(推荐)
  1. 访问 ollama.com/
  2. 点击 "Download for macOS"
  3. 双击 .zip 文件,拖拽到 Applications
方法 B:Homebrew 安装
brew install ollama
验证安装
ollama --version

Linux 安装

一键安装脚本
curl -fsSL https://ollama.com/install.sh | sh

常见问题

Q1: 安装后找不到命令?

解决: 重启终端或添加环境变量。

Windows:

$env:Path += ";C:\Program Files\Ollama"
Q2: 安装失败,提示权限不足?

解决: 用管理员身份运行安装程序。


三、第一个模型

选择你的第一个模型

对于新手,我推荐:

模型大小优点缺点适合场景
Qwen2.5:7b4.7 GB中文优秀,综合能力强需要 8GB+ 内存通用场景 ⭐
Llama3.1:8b4.7 GB英文优秀,生态好中文稍弱英文内容
Phi-3:mini2.3 GB轻量快速,低配置友好能力稍弱低配电脑
DeepSeek-Coder:7b4.7 GB代码能力强通用能力一般编程辅助

💡 建议: 第一个模型选 Qwen2.5:7b,中文友好,综合能力强。


下载并运行模型

步骤 1:拉取模型

打开终端,运行:

ollama pull qwen2.5:7b

等待下载完成(约 4.7 GB):

pulling manifest
pulling 7b... 100%
pulling config... 100%
verifying sha256... 100%
success

⏱️ 时间提示: 根据网速,通常需要 5-20 分钟。

步骤 2:运行模型
ollama run qwen2.5:7b

看到 >>> 提示符说明运行成功。

步骤 3:开始对话

输入你的问题:

>>> 你好,请用一句话介绍你自己

模型会回复:

你好!我是一个人工智能助手,可以帮你回答问题、写作、编程等。有什么我可以帮你的吗?
步骤 4:退出

输入 /bye 或按 Ctrl+D 退出:

>>> /bye

常用命令速查

命令说明
ollama pull <模型>下载模型
ollama run <模型>运行模型
ollama list查看已安装的模型
ollama rm <模型>删除模型
ollama cp <模型> <新名>复制模型
ollama show <模型>查看模型信息

实战练习

试试以下对话:

>>> 请用 Python 写一个快速排序算法

>>> 帮我写一封请假邮件,原因是生病,请假 3>>> 解释一下什么是量子纠缠,用小学生能听懂的话

>>> 帮我润色这段话:[粘贴你的文字]

四、本章小结

恭喜!你已经完成了:

  • ✅ 了解 Ollama 是什么
  • ✅ 安装 Ollama
  • ✅ 下载并运行第一个模型
  • ✅ 完成第一次对话

下一章预告

第二章我们将学习:

  • 如何选择适合的模型
  • 量化版本是什么意思
  • 如何优化推理性能

五、课后作业

  1. 在你的电脑上安装 Ollama
  2. 下载 Qwen2.5:7b 模型
  3. 用模型完成以下任务:
    • 写一首关于春天的诗
    • 解释一个你工作/学习中的概念
    • 帮你润色一段文字

完成后可以在评论区分享你的体验! 💬


关于作者

我是谢轩,一个喜欢折腾 AI 的打工人。

最近在做一个 Ollama 的增强工具 Ollama Tools,有 15+ Prompt 模板、对话历史管理、多模型对比等功能。

觉得有用的话,点个 Star 支持一下!


系列文章

  • 第一章:Ollama 入门(本文)
  • 第二章:模型选择与优化(写作中)
  • 第三章:API 调用实战(计划中)
  • 第四章:Web UI 开发(计划中)

想第一时间看到更新?关注我! 🔔


标签: #AI #大模型 #Ollama #本地部署 #开源 #教程


---

## 📤 发布步骤

1. 访问 https://juejin.cn/
2. 点"创作中心"  "创作文章"
3. 选一个标题
4. 复制上面正文内容粘贴
5. 选个封面图
6. 标签选:AI、大模型、Ollama、开源、教程
7. 点"发布"

---
--

## �� 支持作者

如果这个系列对你有帮助,可以选择以下方式支持:

### 1️⃣ 微信/支付宝 赞赏

![微信赞赏码]

![]() 

![支付宝赞赏码]

![]() 

*金额不限,感谢支持!每一笔赞助都是我持续创作的动力!*

### 2️⃣ 商务合作

**技术服务:**

- �� **Ollama 部署咨询**:¥500/小时

- �� **企业定制开发**:面议(根据需求报价)

- �� **远程技术支持**:¥300/小时

**联系方式:**

- �� 微信:(你的微信号)

- �� 邮箱:(你的邮箱)

### 3️⃣ GitHub 开源项目

**项目地址:** https://github.com/954215110/954215110ollama-tools

如果对你有帮助,别忘了点个  **Star** 支持!

---

## �� Ollama Tools 系列教程

| 章节 | 标题 | 链接 |

|------|------|------|

|  1  | Ollama 入门 | https://juejin.cn/spost/7614644305726423075 |

|  2  | API 详解 | https://juejin.cn/spost/7614110147108716584 |

|  3  | API 调用实战 | https://juejin.cn/post/7614747451153727540 |

|  4  | Web UI 开发 | https://juejin.cn/post/7614451900677849103 |

|  5  | 高级功能开发 | https://juejin.cn/post/7614708335367815183 |

|  6  | 部署与优化 | https://juejin.cn/post/7614884374551756835 |

---

**你的支持是我持续创作的动力!感谢阅读!��**

🌟 付费社群:Ollama Tools 实战圈

加入方式: 扫描下方二维码

星球福利:

  • ✅ 完整源码下载(含 Web UI)
  • ✅ 一对一部署答疑
  • ✅ 最新 AI 工具分享
  • ✅ 同行交流 + 内推机会
  • ✅ 后续教程优先观看

定价: ¥199/年(早鸟价)

(上传你的知识星球二维码图片)

星球链接:wx.zsxq.com/group/48885…