一、准备工作
小白,零AI知识
deepseek 的模型如何进行本地部署?
官方有提到两个工具,但网友进行本地部署很多都是用的另一种——ollama,why?
对于个人开发者,更推荐使用ollama来运行AI模型。
好的,那我们下载ollama,ollama.com/download/ma… 。
二、本地部署
ollama 安装模型deepseek-r1:1.5b
运行模型之后,即可通过控制台交互。
三、接口服务
ollama 启动后,也启动了http server,默认端口号是11434, 接口格式见API文档 。
四、用户交互界面
API、控制台交互不方便,需要配套一个前端UI页面,可选择的开源产品较多,我用的chatbox,因为功安装、使用简单且支持的功能较多。
安装完成后,选择ollama api,r1模型。
问答
图片生成,ollama api暂不支持