本地搭建一个deepseek,作为学习使用。
首先下载ollama
然后安装,我目前用的是windows系统的。
成功后是这个样子的。有对应的版本。
然后下载大模型
ollama官网: ollama.com/
我下载一个1.5b的,因为电脑性能不够,是普通的办公本
ps(DeepSeek 的 1.5B、7B 和 671B,这里的 “B” 是 “Billion(十亿)” 的缩写,数字代表的是模型的参数数量,要了解一个概念,模型蒸馏:
是一种将大型、复杂且性能良好的教师模型(通常是大参数模型)的知识,通过特定的方法迁移到小型、简单的学生模型上的技术。其目的是让小模型学习到大模型的推理模式,从而在资源消耗相对较少的情况下,也能取得较好的性能。)
新建文件夹:cmd,(实际上没什么用,还是安装到c盘了,大概占了2GB不到)
进行下载:ollama run deepseek-r1:1.5b
完成
实际使用1.5b的还是可以简单问答的,但是功能不是很强
下载docker
docker下载路径修改
更改国内镜像,安装open-webui用于界面化显示deepseek。
参考文章:blog.csdn.net/youcans/art…
选择大模型进行对话
到这一步就部署完成了,下面要学习如何进行数据的投喂,如何调试大模型,过两天应该会更一个新文章。