(MacOS/Windows/Linux 通用)
DeepSeek是什么
DeepSeek(中文名:深度求索),是由杭州深度求索人工智能技术研究有限公司独立研发的一款具有强大推理能力的AI大模型。作为一款功能强大的人工智能产品,DeepSeek不仅在性能上表现出色,而且完全免费向用户开放使用。
如需了解更多信息,欢迎访问其官方网站:www.deepseek.com/
为什么要本地部署DeepSeek
DeepSeep在春节前夕火遍全世界,堪称“国运”,回村过年,就连村里的老爷爷都知道DeepSeek。随着DS的火爆,所以在使用时经常会出现“服务器繁忙,请稍后再试”,严重影响了使用体验。
所以本地部署DeepSeep就成了很好的解决方法,下面开始Mac电脑部署教程
本地部署DeepSeek教程
整体介绍
教程一共用到2个软件和1个deepseek-r1模型即可完成
软件:
- Ollama: 本地大模型运行框架 Ollama 是一个功能强大且易于使用的本地大模型运行框架,适合开发者和非专业人员快速上手,官方网址:ollama.com/
- Chatbox: AI可视化工具 后续的问答将从这里的窗口进行,官方网址:chatboxai.app/zh
下文以我自己的电脑 macOS为例 (其他 windows、Linux类似选择对应系统版本的软件下载安装即可)*
1. 下载并安装运行框架:Ollama
1.1. 下载
下载地址:ollama.com/download,选择…
1.2. 安装
下载后的直接打开,根据弹窗提示,移动到应用程序内
移动后会自动打开程序,然后点击 Next;
继续下一步,点击 Install 安装,这里会提示输入密码验证,验证完继续
Ollama安装完成,点击 Finish即可
2. 下载deepseek-r1模型
2.1. 回到Ollama官网,点击Models,找到deepseek-r1模型;
2.2. 选择对应的模型,点击复制按钮,复制DeepSeek-R1下载代码;
- 版本是什么意思? 在生成式召回(Generative Recall)或大语言模型中,"7b" 和 "14b" 通常指的是模型参数的数量(以十亿为单位)。具体来说:
7B 表示模型有 70亿个参数。 14B 表示模型有 140亿个参数。
- 怎么选择? 尽可能选择不超过电脑内存 2/3 内存大小的模型版本为佳,比如我电脑为 M3Pro芯片 36G 内存选择的 14b 版本
⚠️注意:请一定要根据自己的电脑配置,选择对应的版本进行安装,否则就是空间不够,或者根本跑不起来,请一定量力而行
2.3. 打开电脑终端
(Win + R:按下Win键和R键同时,打开“运行”对话框。在运行对话框中输入“cmd”)
2.4. 将复制的下载代码复制到终端内,如图所示,然后回车;
2.5. 进度100%,出现success表示安装成功。
3. 安装Chatbox AI可视化程序
3.1. 打开Chatbox AI官网进行下载;
3.2. 下载后打开安装包,将Chatbox 拖进应用程序内;
3.3. 选择“使用自己的API Key 或本地模型”选项;
3.4. 弹窗选择 Ollama API;
3.5. 在设置页面,API 域名保持默认,模型选择之前下载安装的模型即可,若模型选择框为空请等待下载完成或重新下载;
3.6. 可视化部署完成,可在聊天框内进行对话,所有对话均本地完成,回复迅速。
其他
使用说明
使用 ChatBox+deepseek是不支持联网的,可能会回复不了一些最新的咨询。
提示:当前模型 Ollama (deepseek-r1:14b) API 本身不支持联网问答。支持的模型:gemini-2.0-flash(API), perplexity API
使用时内存表现
以我安装的14b版本为例
- 运行前
- 运行中
- 运行后
不想安装APP咋办?
更多可以➕关注本人的公众号:近朱者赤