Python GPUtil 工具详解与使用指南
简介
GPUtil 是 Python 中一个轻量级的工具库，用于获取 GPU 的运行状态及信息。它能够提供 GPU 的名称、型号、利用率、显存占用等信息，非常适合用于构建 GPU 管理、分配资源以及系统监控等任务。
在本文中，我们将详细介绍 GPUtil 的功能及其使用方法，配合代码示例帮助您快速上手。
安装 GPUtil
在开始使用 GPUtil 前，需要先安装它。可以使用以下命令完成安装：
pip install gputil
此外，由于 GPUtil 会依赖于 NVIDIA 的 GPU 驱动和 nvidia-smi 工具，因此需要确保您的系统已正确安装了这些工具。
GPUtil 的主要功能
GPUtil 的核心功能围绕 GPU 的信息获取和状态监控。以下是其主要功能：
- 获取 GPU 的基本信息
- 实时监控 GPU 使用率
- 筛选最佳 GPU
- 自定义 GPU 选择逻辑
1. 获取 GPU 的基本信息
使用 GPUtil，可以轻松获取系统中所有 GPU 的详细信息，包括 GPU 名称、GPU ID、负载、显存占用等。
获取所有 GPU 信息
import GPUtil
# 获取所有 GPU 的信息
gpus = GPUtil.getGPUs()
# 打印每块 GPU 的详细信息
for gpu in gpus:
print(f"GPU ID: {gpu.id}")
print(f"名称: {gpu.name}")
print(f"负载: {gpu.load * 100:.2f}%")
print(f"显存占用: {gpu.memoryUsed} MB")
print(f"显存总量: {gpu.memoryTotal} MB")
print(f"显存使用率: {gpu.memoryUtil * 100:.2f}%")
print(f"温度: {gpu.temperature} °C")
print("-" * 40)
输出示例：
GPU ID: 0
名称: NVIDIA GeForce RTX 3090
负载: 15.50%
显存占用: 1024 MB
显存总量: 24576 MB
显存使用率: 4.17%
温度: 52 °C
----------------------------------------
2. 实时监控 GPU 使用率
定时监控
通过 GPUtil.getGPUs() 可以每隔固定时间获取 GPU 信息，实现实时监控。
import GPUtil
import time
# 每隔 2 秒打印一次 GPU 使用情况
while True:
gpus = GPUtil.getGPUs()
for gpu in gpus:
print(f"GPU {gpu.id} - {gpu.name}:")
print(f" 负载: {gpu.load * 100:.2f}%")
print(f" 显存使用: {gpu.memoryUsed} MB / {gpu.memoryTotal} MB")
print(f" 温度: {gpu.temperature} °C")
print("-" * 40)
time.sleep(2)
该脚本适合用于简单的 GPU 使用率监控工具，也可以进一步扩展为可视化的实时监控应用。
3. 筛选最佳 GPU
在需要选择 GPU 运行计算任务时，GPUtil 提供了便捷的筛选功能。通过 GPUtil.getFirstAvailable()，可以快速找到满足条件的 GPU。
筛选空闲的 GPU
import GPUtil
# 找到最空闲的 GPU
best_gpu = GPUtil.getFirstAvailable()
if best_gpu:
print(f"最空闲的 GPU 是: GPU {best_gpu[0]}")
else:
print("没有可用的 GPU")
指定条件筛选
可以通过自定义负载和显存占用的限制，筛选符合条件的 GPU：
# 筛选负载小于 50% 且显存占用低于 30% 的 GPU
available_gpus = GPUtil.getAvailable(order='memory', maxLoad=0.5, maxMemory=0.3)
if available_gpus:
print("可用的 GPU ID:")
print(available_gpus)
else:
print("没有符合条件的 GPU")
4. 自定义 GPU 选择逻辑
根据负载排序 GPU
如果需要根据 GPU 的负载大小选择最合适的 GPU，可以使用 GPUtil.sort() 方法：
import GPUtil
# 按负载从低到高排序 GPU
gpus = GPUtil.getGPUs()
sorted_gpus = GPUtil.sort(gpus, key=lambda x: x.load)
print("根据负载排序的 GPU:")
for gpu in sorted_gpus:
print(f"GPU {gpu.id} - 负载: {gpu.load * 100:.2f}%")
多 GPU 分配任务
对于多 GPU 系统，可以根据每块 GPU 的当前负载，将计算任务合理分配到不同 GPU 上：
# 模拟任务分配
tasks = ["Task A", "Task B", "Task C"]
gpus = GPUtil.getGPUs()
sorted_gpus = GPUtil.sort(gpus, key=lambda x: x.load)
for task, gpu in zip(tasks, sorted_gpus):
print(f"{task} 分配到 GPU {gpu.id} - {gpu.name}")
5. GPU 温度监控与报警
GPUtil 提供了 GPU 温度信息，可以用来构建简单的 GPU 温度报警系统。
温度报警脚本
import GPUtil
import time
# 设置温度阈值
TEMPERATURE_THRESHOLD = 80
# 实时监控温度
while True:
gpus = GPUtil.getGPUs()
for gpu in gpus:
if gpu.temperature > TEMPERATURE_THRESHOLD:
print(f"警告: GPU {gpu.id} 温度过高 ({gpu.temperature} °C)")
else:
print(f"GPU {gpu.id} 温度正常 ({gpu.temperature} °C)")
time.sleep(5)
6. 与其他工具集成
与 TensorFlow 一起使用
在深度学习项目中，可以通过 GPUtil 检测可用 GPU，并动态分配任务给空闲 GPU。
import GPUtil
import tensorflow as tf
# 获取最空闲的 GPU
available_gpus = GPUtil.getAvailable(order='memory', maxLoad=0.5, maxMemory=0.3)
if available_gpus:
gpu_id = available_gpus[0]
print(f"使用 GPU: {gpu_id}")
tf.config.set_visible_devices([tf.config.list_physical_devices('GPU')[gpu_id]], 'GPU')
else:
print("没有可用的 GPU，切换到 CPU 模式")
7. GPUtil 的高级用法
获取 GPU 快照
通过捕获 GPU 状态快照，可以实现 GPU 状态的时间序列监控。
import GPUtil
import time
snapshots = []
for _ in range(10): # 采样 10 次
snapshot = GPUtil.getGPUs()
snapshots.append(snapshot)
time.sleep(1)
# 打印采样结果
for idx, snapshot in enumerate(snapshots):
print(f"采样 {idx + 1}:")
for gpu in snapshot:
print(f" GPU {gpu.id} - 负载: {gpu.load * 100:.2f}% - 温度: {gpu.temperature} °C")
print("-" * 40)
总结
GPUtil 是一个非常实用的工具库，特别适合用于 GPU 信息监控和任务分配管理。在本文中，我们详细介绍了其安装、基本用法、筛选逻辑以及高级功能。通过这些功能，开发者可以轻松构建 GPU 监控系统或优化任务分配策略。
无论是用于构建个人监控工具，还是作为深度学习任务管理的一部分，GPUtil 都能提供强大的支持。希望本文能够帮助您快速掌握 GPUtil 的使用方法，并在实际项目中灵活运用！
