deepseek + docker + ollama + python 入手笔记
使用 ollama 框架run deepseek,学习交流中。
- docker拉取 ollama hub.docker.com/r/ollama/ol…
# 拉取镜像
docker pull ollama/ollama
# 运行镜像并修改名称
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
- 进入 docker 运行 ollama 加载deepseek ollama.com/library/dee…
出于学习目的先加载最小版本 1.5b
# 打开容器命令行
docker exec -it ollama bash
# 安装 DeepSeek
ollama run deepseek-r1:1.5b
- ollama 命令 api github.com/ollama/olla…
在容器外执行 shell 查看是否调用成功
curl http://localhost:11434/api/generate -d '{
"model": "deepseek-r1:1.5b",
"prompt": " 列举中国 24 节气"
}'
4、python调用ollama api 返回调用
from flask import Flask,Response,json
import requests
app = Flask(__name__)
chat_api= 'http://localhost:11434/api/generate'
@app.route('/')
def hello_world(): # put application's code here
return get_ai()
# return 'Hello World!'
def get_ai():
req = requests.post(url=chat_api, json={
"model": "deepseek-r1:1.5b",
"prompt": "给出代码例子我应该如何调整参数或者训练模型 ",
},stream=True)
req.encoding="utf-8"
def send(data):
for line in data.iter_lines(decode_unicode=True):
print(line)
data = json.loads(line)
text = data.get("response","")
yield text
return Response(send(req),content_type="text/event-stream ; charset=utf-8")
if __name__ == '__main__':
app.run(debug=True)
结果如下: