deepseek 本地部署&使用

1,193 阅读1分钟

整体分两部分:一部分是安装模型,另一部分是使用UI界面可以和模型进行对话

安装模型

在安装模型之前,我们需要准备一个模型管理器。方便后续模型的更新、切换等操作

安装模型管理器

个人推荐使用的是 ollama 方案进行模型管理

访问 ollama.com/ 官网,点击下载按钮

下载完成后,启动 ollama 应用即可(mac os 点击图标应用)

安装模型

ollama run deepseek-r1:7b

内存在24GB建议选择 1.5b ,内存 48G 选择 7b ,内存 12~16G 选择 14b

# 退出终端时需要按
ctrl + c
ctrl + d

安装UI界面

访问 Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

安装好了之后

按图片中配置设置即可

注意:模型部分需要选择你安装的版本

使用

可以自由使用啦~