一、准备工作
1. 硬件与系统要求
- 最低配置(适合 1.5B/7B 模型):
- CPU:近 5 年多核处理器(如 Intel i5/Ryzen 5 及以上)
- 内存:≥8GB(推荐 16GB)
- 显存:无独立显卡可纯 CPU 运行,但速度较慢;若有 GPU,建议 ≥4GB 显存(如 GTX 1050 Ti)
- 推荐配置(适合 14B/32B 模型):
- GPU:≥12GB 显存(如 RTX 3080)
- 内存:≥32GB
- 系统:Windows 10/11、macOS 12+、Linux(Ubuntu 20.04+)
2. 术语解释
- Ollama:开源工具,用于本地运行和管理大语言模型(LLM),支持命令行和 API 调用。
- DeepSeek-R1:推理优化模型,基于强化学习技术提升逻辑推理能力,适合代码生成、数学问题解答。
- 模型参数(如 7B/14B):表示模型的参数量(如 7B=70 亿参数),参数越大能力越强,但对硬件要求更高。
二、安装 Ollama
1. 下载与安装
- Windows:
- 访问 Ollama 官网 下载安装包。
- 双击
ollama-setup.exe完成安装,安装后任务栏右下角会出现 Ollama 图标。
- macOS/Linux:
# macOS 直接拖拽安装,Linux 执行命令: curl -fsSL https://ollama.com/install.sh | sh
2. 验证安装
打开终端输入以下命令,若显示版本号即安装成功:
ollama --version
# 示例输出:Ollama version 0.5.8
三、部署 DeepSeek 模型
1. 选择模型版本
根据硬件配置选择模型(显存不足可纯 CPU 运行):
| 模型版本 | 显存需求 | 内存需求 | 适用场景 |
|---|---|---|---|
| 1.5B | 4GB | 8GB | 基础对话、文本分类 |
| 7B | 8GB | 16GB | 代码辅助、翻译 |
| 14B | 16GB | 32GB | 复杂逻辑推理 |
2. 下载模型
在终端执行命令(以 7B 模型为例):
ollama run deepseek-r1:7b
首次运行会自动下载模型文件,需等待完成(约 4.7GB)。
四、使用模型
1. 命令行交互
模型下载完成后,终端会进入交互模式,直接输入问题即可:
>>> 用 Python 写一个快速排序算法
模型会逐步生成代码并解释逻辑。
2. 可视化界面(Open WebUI)
- 安装 Open WebUI:
pip install open-webui open-webui serve --port 8080 - 访问界面:
浏览器打开
http://localhost:8080,首次需创建账号,在设置中选择Ollama并填写 API 地址http://localhost:11434。
五、进阶配置
1. 修改模型存储路径
避免占用系统盘空间:
# Windows:设置环境变量
setx OLLAMA_MODELS "D:\ollama-models"
# 重启 Ollama 服务生效
2. 常用命令
| 命令 | 功能 |
|---|---|
ollama list | 查看本地已下载模型 |
ollama rm 模型名 | 删除指定模型 |
ollama ps | 查看运行中的模型实例 |
六、常见问题解决
- 下载速度慢:
- 使用科学上网工具,或通过国内镜像站下载模型。
- 显存不足报错:
- 改用更小模型(如 1.5B),或增加虚拟内存(Windows 设置 → 系统 → 高级 → 虚拟内存)。
- 端口冲突:
- 修改 Ollama 服务端口:
ollama serve --port 11435。
- 修改 Ollama 服务端口:
七、术语扩展
- 预训练模型(如 DeepSeek-V3):基于海量数据训练的基础模型,掌握通用语言规律。
- 混合专家(MoE):模型动态调用不同“专家模块”处理任务,降低计算成本(类似医院分科室会诊)。
通过以上步骤,即可在本地部署并运行 DeepSeek 模型。如需完整代码示例或更复杂配置,可参考 Ollama 官方文档 或文献。
字节跳动 2025 ByteIntern ****实习生内推全面启动!加大招聘规模,4000+需求上新!
超多职位需求待招
- 4000+ Offer 来袭,七大职类全覆盖,10+城市开放投递
- 研发类岗位占比超80%,后端、算法、前端、客户端岗位最多
- 不限投递次数,全年开放内推投递
更高转正比例、更快的成长
- 加大转正比例,提供更多转正机会!通过ByteIntern投递,所有岗位都有转正机会
- 7月发起转正,全职Offer提前拿
- 内推链接:job.toutiao.com/s/hJq4rcKSW…
- 内推码:RWQMBNH