显存清空命令

399 阅读1分钟

1 torch.cuda.empty_cache

该函数用于清空CUDA缓存,防止已释放的显存被旧数据占用。当程序运行过程中遇到显存不足问题时,适时调用此函数可以避免显存爆满。虽然这可能导致短暂的性能下降,但在某些情况下(如循环中)能有效防止显存溢出。建议在每个epoch开始时使用,以释放不必要的显存资源。

2 nvidia-smi --gpu-reset

重置所有nvidia-smi gpu设备,并清除显存中的设备