Docker 容器内使用显卡环境

本文档基于 Ubuntu22.04

1. 创建镜像

docker run -d --gpus=all -v /www/server/llm:/www/server/llm -p 8093:8081 --name llm3 ollama/ollama

2. 安装python环境

apt update
apt upgrade
apt install python3
apt install python3-pip

ln -s /usr/bin/python3 /usr/bin/python