模型介绍
DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力。在数学、代码、自然语言推理等任务上,性能比肩 OpenAI o1 正式版。
安装开始
一、安装Ollama
首先,访问Ollama 官网 ,根据你的操作系统(Windows、Mac 或 Linux),选择对应的安装包进行下载。
安装完成后,为了确认 Ollama 是否成功安装,在终端输入ollama -v 。如果安装正确,终端会显示 Ollama 的版本号。
ollama -v
例如,我的版本为:
二、部署模型
访问Ollam的模型库,您将发现多种DeepSeek-R1模型版本,包括1.5B、7B、14B、32B等。选择适合您电脑硬件配置的模型版本是非常重要的。
2.1 如何选择模型版本?
下拉可以看到对应模型的参数,如下图
一般16GB内存的笔记本选择7b或者8b,内存如果是24GB或者是更高的,那可以选择32b
2.2 拷贝对应参数的命令到终端
拷贝对应参数的命令到终端,等候下载完成。
2.3 部署完毕
部署完毕之后,终端可以进行对话,但是这种方式太原始,我们需要有个漂亮的ui界面来对话,因此可以进入到本文第三章节。
三、安装本地ai工具
3.1 下载Chatbox客户端
Chatbox官网地址:chatboxai.app/zh
Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。
3.2 配置模型到Chatbox
- 模型提供方:我们选择“OLLAMA”
- API域名:选择完模型提供方之后,会默认填充完毕。这个地址是 Ollama 服务的默认接口地址,通过它 Chatbox 可以连接到本地运行的 DeepSeek-R1 模型。
- 模型名称:选择本地下载好的deepseek-r1:7b,如果是其他参数,那么选择deepseek-r1:你的参数。
3.3 愉快地用deepSeek-R1了!
现在就能尽情地问问题啦!