前沿
如何免费把deepseek模型部署到本地,不需要联网,你也可以流程的使用deepseek r1模型。
春节期间,DeepSeek一夜之间,全球爆火,成为了众矢之的。先是意大利,直接把DeepSeek从Appstore和谷歌商店下架了。理由是:DeepSeek的服务器设在中国,这让数百万意大利人的数据处于风险之中。所以,你不合规,下架。
接着,白宫发声,人工智能顾问大卫·萨克斯在福布斯的采访中说。DeepSeek“有可能”窃取了美国的知识产权,才得以崛起。
然后,我今天登陆进deepseek的官网,可能是真的太火了,服务器直接被全球网友干奔溃了。。。。
好吧,看来只能使用程序员的魔法去使用deepseek了,今天就教大家如何免费把deepseek模型部署到本地,不需要联网,你也可以流程的使用deepseek r1模型,这里我们介绍两种本地搭建方式,这可能是全网最全的deepseek本地部署方法了,点赞收藏起来,我们直接进入部署教程!
部署教程
下载ollama
首先,我们想要在本地运行 deepseek,需要用到一个叫ollama(欧拉玛)的工具,这是一个开源的本地大模型运行工具,我们搜索一下,进入到ollama的官网,然后这里有一个下载的按钮,点击一下,选择你对应的操作系统,我用的是 Mac 电脑,所以我选择 Mac OS,当然你也可以下载 windows 的版本,后面的操作步骤都是一样的,我这里已经下载完成了,然后默认安装它就行,当你安装成功之后,你的电脑上方会出现一个羊驼的图标。
下载deepseek r1模型
然后,我们点击主页的 这个models菜单,这里面有很多热门的开源大模型,我们选择第一个deepseek r1模型就行,这里有多个版本可以选择,这个需要根据你自己的电脑配置自行选择合适的就行了,数字越大,需要的电脑配置越高。
那我放一个表格在这里,大家自己对照。然后看到右边这里有一串代码,点这个按钮,一键复制。
接下来我们需要打开终端,然后把刚刚复制的代码,粘贴进来,回车。第一次运行这个代码的时候,可能速度会有点慢,因为它会给你下载这个模型,等进度条全部走完,这个模型就安装在我们本地了。
比如说,我们试一下啊!让他介绍一下最近爆火的deepseek,按回车。好,现在他开始思考了,可以看到,这个速度是挺快的,当然这个主要取决于你的电脑配置哈,配置越好,速度越快。OK,这个结果出来,上面是思考过程,下面是输出的结果。
虽然现在已经是可以直接用了,但每次都要打开终端工具,还是太麻烦了一点,非技术人员使用起来肯定也不习惯,那接下来我们介绍两种可视化的图文交互界面去使用它。
使用chatbox集成
第一种就是使用chatbox,浏览器搜索直接进入chatbox的官网,这里可以使用网页在线版,也可以直接下载到电脑上去安装使用。
我们进入chatbox主页,使用本地自己的 API,然后这样选ollama api。然后在这里注意哈,他为了确保ollama服务能远程链接,要看这个教程。
大家根据这个教程来操作就行,
打开终端,输入输出我们刚刚复制的这串代码,点击回车,OK 了。windows 也是一样的啊。然后我们重启ollama。
重启ollama以后,我们重新打开chatbox,这里就会出现deepseek r1这个模型,点击保存。
然后我们就可以在这个可视化界面里,去和deepseek进行对话了,随便输入个问题,比如说 你好啊,OK 呢,他现在已经在运行了。
上面这个是他的思考过程,下面这个是他输出给我的答案。完全免费,一点都不卡顿,并且不需要联网,在你本地就能使用。这就是我们部署到本地的 chatbox 方案。
那这个方案它还有一个特点,就是你可以点击这里,创建新搭档。在这里可以创建你的专属智能体。随便给他取个名字,这里输入智能体的 角色设定,比如说:你是一个专业的抖音文案助手。OK,你的智能体就创建好了。接下来你就可以使用这个智能体来帮你写文案了,它内部就是使用的deepseek这个模型。
使用Docker集成
刚刚说完了 chatbox 这个方案,这个方案是可以创建智能体的,那有些同学他喜欢发语音,那接下来我们第二种方案是重点介绍一个可以发语音的部署方案。docker集成。
这里,进入Docker的官网,然后在这里下载对应你电脑的版本,全部选择默认的方式进行安装。如果你是第一次使用这个软件,你需要注册登陆一下,ok,我们这里选择一个账号登录进来。
接下来我们还需要到 Github 上去找到 open-webui 这个项目,然后我们进来往下滑,找到这里docker安装的步骤。
我们复制这串代码,然后我们打开终端,把它粘贴进来。回车安装完成以后,我们打开刚刚的这个 Docker,
你会发现这多了一个 open-webui 的这个东西。
然后我们点击这里打开,
这里它就显示了我们刚刚下载的 deepseek r1 模型。在这里我们就可以直接问问题了,然后这个语音输入也是可以的。
OK,以上就是 deepseek的2种本地部署方案,上面的所有步骤我都会整理成一个文档发给大家,点赞关注,感兴趣的同学,快去使用起来吧!