DeepSeek本地部署+数据训练AI教程

1,648 阅读6分钟

DeepSeek本地部署+数据训练AI教程

DeepSeek是杭州深度求索人工智能基础技术研究有限公司(成立于2023年7月17日)推出的AI助手,于2025年1月15日正式上线。它凭借自然语言处理、机器学习与深度学习、大数据分析等核心技术优势,在推理、自然语言理解与生成、图像与视频分析、语音识别与合成、个性化推荐、大数据处理与分析、跨模态学习以及实时交互与响应等八大领域表现出色。它能进行逻辑推理、解决复杂问题,理解和生成高质量文本,精准分析图像和视频内容,准确识别和合成语音,根据用户偏好提供个性化推荐,高效处理大规模数据并挖掘有价值信息,实现多模态数据融合与学习,以及通过智能助手和聊天机器人实现快速的自然语言交互。

部署教程

硬件配置

以下是不同参数量模型的本地部署硬件要求和适用场景分析。注:部分数据基于模型通用需求推测,具体以实际部署测试为准。
✅ DeepSeek-R1-1.5B
CPU: 最低 4 核(推荐 Intel/AMD 多核处理器)
内存: 8GB+
硬盘: 3GB+ 存储空间(模型文件约 1.5-2GB)
显卡: 非必需(纯 CPU 推理),若 GPU 加速可选 4GB+ 显存(如 GTX 1650)
场景:低资源设备部署,如树莓派、旧款笔记本、嵌入式系统或物联网设备
✅ DeepSeek-R1-7B
CPU: 8 核以上(推荐现代多核 CPU)
内存: 16GB+
硬盘: 8GB+(模型文件约 4-5GB)
显卡: 推荐 8GB+ 显存(如 RTX 3070/4060)
场景:中小型企业本地开发测试、中等复杂度 NLP 任务,例如文本摘要、翻译、轻量级多轮对话系统 ✅ DeepSeek-R1-8B
CPU: 8 核以上(推荐现代多核 CPU)
内存: 16GB+
硬盘: 8GB+(模型文件约 4-5GB)
显卡: 推荐 8GB+ 显存(如 RTX 3070/4060)
场景:需更高精度的轻量级任务(如代码生成、逻辑推理)
✅ DeepSeek-R1-14B
CPU: 12 核以上
内存: 32GB+
硬盘: 15GB+
显卡: 16GB+ 显存(如 RTX 4090 或 A5000)
场景:企业级复杂任务、长文本理解与生成
✅ DeepSeek-R1-32B
CPU: 16 核以上(如 AMD Ryzen 9 或 Intel i9)
内存: 64GB+
硬盘: 30GB+
显卡: 24GB+ 显存(如 A100 40GB 或双卡 RTX 3090)
场景:高精度专业领域任务、多模态任务预处理
✅ DeepSeek-R1-70B
CPU: 32 核以上(服务器级 CPU)
内存: 128GB+
硬盘: 70GB+
显卡: 多卡并行(如 2x A100 80GB 或 4x RTX 4090)
场景:科研机构/大型企业、高复杂度生成任务
✅ DeepSeek-R1-671B
CPU: 64 核以上(服务器集群)
内存: 512GB+
硬盘: 300GB+
显卡: 多节点分布式训练(如 8x A100/H100)
场景:超大规模 AI 研究、通用人工智能(AGI)探索

步骤

1.Win版安装教程(Ollama+AnythingLLM安装、DeepSeek模型下载)

2.Mac版安装教程(Ollama+AnythingLLM安装、DeepSeek模型下载)

3.AnythingLLM设置方法(聊天模型+训练模型设置)

4.如何投喂数据

5.DeepSeek-R1应用展示

Win版安装教程

  1. 下载ollama(ollama.com/download)

image.png

  1. 点击Install安装

image.png

  1. 解决Ollama默认下载模型到C盘问题(可跳过)
    在D盘新建一个文件夹命名为OllamaAI,然后打开系统环境变量,新建变量名:OLLAMA_MODELS 变量值:D:\OllamaAI,设置完成后重启电脑。

image.png 4. 重启电脑后,在开始菜单找到Ollama程序打开,打开后在电脑右下角会有一个羊驼图标显示。

image.png 5. 按快捷键Win+R,输入cmd确定。

image.png

  1. 输入ollama run+模型名称,按回车键即可下载(看上面选择下载其中一个或多个,此过程可能有点慢,若下载失败重新输入命令下载即可),如下:

image.png

ollama run deepseek-r1:1.5b

ollama run deepseek-r1:7b

ollama run deepseek-r1:8b

ollama run deepseek-r1:14b

image.png deepseek-r1模型下载完成后(提示success即是下载完成)

ps:若是要删除模型,输入命令ollama rm+模型名称,如ollama rm deepseek-r1:14b

7.在CMD新窗口中输入命令ollama pull nomic-embed-text回车下载nomic-embed-text嵌入式模型(后面做数据投喂会用到)。

image.png 8.deepseek-r1与nomic-embed-text模型下载完成后,开始安装AnythingLLM软件。(anythingllm.com/desktop)

image.png

9.选择【所有用户】点击下一步。

image.png

  1. 修改路径地址中的首字符C可更改安装位置,本例安装到D盘,点击下一步。w

image.png

11.安装中…,安装到提示下载ollama_lib.zip可点击取消,不然要等1小时间才能下载完成。

image.png

12.点击完成。

image.png 13.点击【Get started】。

image.png

14.点击箭头,进行下一步。

image.png

15.输入工作区名称,点击下一步箭头。

image.png

16.点击【设置】,里面可以设置模型、界面显示语言等。

image.png

17.若软件显示英文,可在Customization外观定制里面选择Chinese即可。

image.png

Mac版安装教程(支持MacOS 11.0及更高)

1.双击安装Ollama(支持M系列与Intel系列CPU),选择【Move to Applications】然后点击Next安装完成即可。

2.通过终端分别安装deepseek-r1与nomic-embed-text模型,注意两个模型若是一起下载会报错,建议一个模型下载完成后,再开一个终端窗口下载。下载方式与Win版7~8步骤类似,这里不过多介绍。

image.png

3.双击打开AnythingLLM(根据自己电脑芯片选择ARM或Intel版安装包),将AnythingLLM拖入到【Applications】文件夹完成安装。若打开软件为英文,参考Win版第17步设置。

image.png

AnythingLLM设置(Mac与Win设置方法一样)

1.在软件设置里面,LLM首选项界面,提供商选择Ollama,Ollama Model选择你前面下载的DeepSeek-R1系列模型1.5b~671b,然后点击Save changes。

image.png

2.在Embedder首选项界面,嵌入引擎提供商选择Ollama,Ollama Embedding Mode选择【nomic-embed-text】,然后点击保存更改。

image.png

3.点击【工作区设置】。

image.png

4.聊天设置界面,❶工作区LLM提供者选择【Ollama】,❷工作区聊天模型选择【deepseek-r1】模型,❸然后点击【Update workspace agent】。

image.png

5.代理配置界面,工作区代理LLM提供商选择【Ollama】,工作区代理模型选择【deepseek-r1】,然后点击【Update workspace agent】。

image.png

如何投喂数据(训练AI)

1.在工作区界面,点击【上传】。

image.png

2.❶点击upload选择需要上传的文件(支持PDF、Txt、Word、Excel、PPT等常见文档格式)。❷勾选上传的文件,❸点击【Move to Workspace】。

image.png

3.点击【Save and Embed】。

image.png

DeepSeek-R1应用展示

1.投喂数据后,可以生成训练数据中预期的json约定格式数据,以此和垂直业务进行对接

image.png

2.在设置【对话历史记录】界面,工作区聊天记录可以导出也可以删除。

image.png

希望本文可以为您提供帮助!