Mac本地部署DeepSeekR1(7B)

220 阅读1分钟

1、安装本地:

1、下载ollama的服务 通过 ollama.com/download 官网下载即可

➜  ~ ollama --version
ollama version is 0.5.11

2、ollama下载指定的大模型:

例如:ollama.com/library/dee… 下载多大的模型,基于电脑的硬件配置;(模型越大,能力越强)

➜  ~ ollama run deepseek-r1:1.5b  #使用ollama下载1.5b的deepseek-r1模型
➜  ~ ollama run deepseek-r1:7b    #使用ollama下载7b的deepseek-r1模型

3、REstAPI: (可以跳过)

调用本地部署的"deepseek-r1:7b"的模型:

curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:7b",
  "prompt":"Why is the sky blue?"
}'

curl http://localhost:11434/api/chat -d '{
  "model": "deepseek-r1:7b",
  "messages": [
    { "role": "user", "content": "介绍你自己?" }
  ]
}'

4、GUI

hollama.dmg 用于直接调用本地ollama服务的mac应用,可以直接安装使用; 下载地址:github.com/fmaclen/hol… hollama配置参考: github.com/fmaclen/hol…