手把手教你本地部署 DeepSeek

645 阅读3分钟

一、准备工作

1. 硬件与系统要求

  • 最低配置(适合 1.5B/7B 模型):
    • CPU:近 5 年多核处理器(如 Intel i5/Ryzen 5 及以上)
    • 内存:≥8GB(推荐 16GB)
    • 显存:无独立显卡可纯 CPU 运行,但速度较慢;若有 GPU,建议 ≥4GB 显存(如 GTX 1050 Ti)
  • 推荐配置(适合 14B/32B 模型):
    • GPU:≥12GB 显存(如 RTX 3080)
    • 内存:≥32GB
  • 系统:Windows 10/11、macOS 12+、Linux(Ubuntu 20.04+)

2. 术语解释

  • Ollama:开源工具,用于本地运行和管理大语言模型(LLM),支持命令行和 API 调用。
  • DeepSeek-R1:推理优化模型,基于强化学习技术提升逻辑推理能力,适合代码生成、数学问题解答。
  • 模型参数(如 7B/14B):表示模型的参数量(如 7B=70 亿参数),参数越大能力越强,但对硬件要求更高。

二、安装 Ollama

1. 下载与安装

  • Windows
    1. 访问 Ollama 官网 下载安装包。
    2. 双击 ollama-setup.exe 完成安装,安装后任务栏右下角会出现 Ollama 图标。
  • macOS/Linux
    # macOS 直接拖拽安装,Linux 执行命令:
    curl -fsSL https://ollama.com/install.sh | sh
    

2. 验证安装

打开终端输入以下命令,若显示版本号即安装成功:

ollama --version
# 示例输出:Ollama version 0.5.8

三、部署 DeepSeek 模型

1. 选择模型版本

根据硬件配置选择模型(显存不足可纯 CPU 运行):

模型版本显存需求内存需求适用场景
1.5B4GB8GB基础对话、文本分类
7B8GB16GB代码辅助、翻译
14B16GB32GB复杂逻辑推理

2. 下载模型

在终端执行命令(以 7B 模型为例):

ollama run deepseek-r1:7b

首次运行会自动下载模型文件,需等待完成(约 4.7GB)。


四、使用模型

1. 命令行交互

模型下载完成后,终端会进入交互模式,直接输入问题即可:

>>> 用 Python 写一个快速排序算法

模型会逐步生成代码并解释逻辑。

2. 可视化界面(Open WebUI)

  • 安装 Open WebUI
    pip install open-webui
    open-webui serve --port 8080
    
  • 访问界面: 浏览器打开 http://localhost:8080,首次需创建账号,在设置中选择 Ollama 并填写 API 地址 http://localhost:11434

五、进阶配置

1. 修改模型存储路径

避免占用系统盘空间:

# Windows:设置环境变量
setx OLLAMA_MODELS "D:\ollama-models"
# 重启 Ollama 服务生效

2. 常用命令

命令功能
ollama list查看本地已下载模型
ollama rm 模型名删除指定模型
ollama ps查看运行中的模型实例

六、常见问题解决

  1. 下载速度慢
    • 使用科学上网工具,或通过国内镜像站下载模型。
  2. 显存不足报错
    • 改用更小模型(如 1.5B),或增加虚拟内存(Windows 设置 → 系统 → 高级 → 虚拟内存)。
  3. 端口冲突
    • 修改 Ollama 服务端口:ollama serve --port 11435

七、术语扩展

  • 预训练模型(如 DeepSeek-V3):基于海量数据训练的基础模型,掌握通用语言规律。
  • 混合专家(MoE):模型动态调用不同“专家模块”处理任务,降低计算成本(类似医院分科室会诊)。

通过以上步骤,即可在本地部署并运行 DeepSeek 模型。如需完整代码示例或更复杂配置,可参考 Ollama 官方文档 或文献。

阿里云免费体验


字节跳动 2025 ByteIntern ****实习生内推全面启动!加大招聘规模,4000+需求上新!

超多职位需求待招

  • 4000+ Offer 来袭,七大职类全覆盖,10+城市开放投递
  • 研发类岗位占比超80%,后端、算法、前端、客户端岗位最多
  • 不限投递次数,全年开放内推投递

更高转正比例、更快的成长

  • 加大转正比例,提供更多转正机会!通过ByteIntern投递,所有岗位都有转正机会
  • 7月发起转正,全职Offer提前拿
  • 内推链接:job.toutiao.com/s/hJq4rcKSW…
  • 内推码:RWQMBNH