1、安装本地:
1、下载ollama的服务 通过 ollama.com/download 官网下载即可
➜ ~ ollama --version
ollama version is 0.5.11
2、ollama下载指定的大模型:
例如:ollama.com/library/dee… 下载多大的模型,基于电脑的硬件配置;(模型越大,能力越强)
➜ ~ ollama run deepseek-r1:1.5b #使用ollama下载1.5b的deepseek-r1模型
➜ ~ ollama run deepseek-r1:7b #使用ollama下载7b的deepseek-r1模型
3、REstAPI: (可以跳过)
调用本地部署的"deepseek-r1:7b"的模型:
curl http://localhost:11434/api/generate -d '{
"model": "deepseek-r1:7b",
"prompt":"Why is the sky blue?"
}'
curl http://localhost:11434/api/chat -d '{
"model": "deepseek-r1:7b",
"messages": [
{ "role": "user", "content": "介绍你自己?" }
]
}'
4、GUI
hollama.dmg 用于直接调用本地ollama服务的mac应用,可以直接安装使用; 下载地址:github.com/fmaclen/hol… hollama配置参考: github.com/fmaclen/hol…