本地搭建deepseek实操(ollama搭建,docker管理,open-webui使用)

784 阅读1分钟

本地搭建一个deepseek,作为学习使用。

首先下载ollama

然后安装,我目前用的是windows系统的。

成功后是这个样子的。有对应的版本。

image.png

然后下载大模型

ollama官网: ollama.com/

image.png

我下载一个1.5b的,因为电脑性能不够,是普通的办公本

ps(DeepSeek 的 1.5B、7B 和 671B,这里的 “B” 是 “Billion(十亿)” 的缩写,数字代表的是模型的参数数量,要了解一个概念,模型蒸馏:

是一种将大型、复杂且性能良好的教师模型(通常是大参数模型)的知识,通过特定的方法迁移到小型、简单的学生模型上的技术。其目的是让小模型学习到大模型的推理模式,从而在资源消耗相对较少的情况下,也能取得较好的性能。)

新建文件夹:cmd,(实际上没什么用,还是安装到c盘了,大概占了2GB不到)

进行下载:ollama run deepseek-r1:1.5b

image.png

完成

image.png

实际使用1.5b的还是可以简单问答的,但是功能不是很强

image.png

下载docker

docker下载路径修改

image.png

更改国内镜像,安装open-webui用于界面化显示deepseek。

参考文章:blog.csdn.net/youcans/art…

image.png

选择大模型进行对话

image.png

到这一步就部署完成了,下面要学习如何进行数据的投喂,如何调试大模型,过两天应该会更一个新文章。