deepseek开发笔记

72 阅读1分钟

deepseek + docker + ollama + python 入手笔记

使用 ollama 框架run deepseek,学习交流中。

  1. docker拉取 ollama hub.docker.com/r/ollama/ol…
# 拉取镜像
docker pull ollama/ollama
# 运行镜像并修改名称
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
  1. 进入 docker 运行 ollama 加载deepseek ollama.com/library/dee…

出于学习目的先加载最小版本 1.5b

image.png

#  打开容器命令行
docker exec -it ollama bash
#  安装 DeepSeek
ollama run deepseek-r1:1.5b
  1. ollama 命令 api github.com/ollama/olla…

在容器外执行 shell 查看是否调用成功

curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:1.5b",
  "prompt": " 列举中国 24 节气"
}'

4、python调用ollama api 返回调用

from flask import Flask,Response,json  
import requests  
app = Flask(__name__)  
chat_api= 'http://localhost:11434/api/generate'  
 
@app.route('/')  
def hello_world(): # put application's code here  
return get_ai()  
# return 'Hello World!'  
 
def get_ai():  
req = requests.post(url=chat_api, json={  
"model": "deepseek-r1:1.5b",  
"prompt": "给出代码例子我应该如何调整参数或者训练模型 ",  
},stream=True)  
req.encoding="utf-8"  
def send(data):  
 
for line in data.iter_lines(decode_unicode=True):  
print(line)  
data = json.loads(line)  
text = data.get("response","")  
yield text  
return Response(send(req),content_type="text/event-stream ; charset=utf-8")  
 
 
 
 
 
if __name__ == '__main__':  
app.run(debug=True)

结果如下:

image.png