简介：TG@luotuoemo
本文由阿里云代理商【聚搜云】撰写
1. 优化代码和模型
- 减少不必要的计算：检查代码以确定是否有任何不必要的计算，这些计算可能消耗了大量的显存。
- 使用梯度累积：通过在几个步骤之间累积梯度，然后一次性更新它们，可以减少所需的显存。
- 使用低精度数据类型：将数据转换为较低精度的数据类型，例如float16，可以减少显存的使用。
- 使用更小的批次大小：减小批次大小可以减少每个批次所需的显存。
- 简化模型结构：如果可能的话，简化模型结构可以减少所需的显存。
2. 使用更大的GPU
如果优化代码和模型无法解决问题，或者您需要更大的显存来支持您的训练，那么购买一块具有更大显存的GPU可能是您的最佳选择。例如，NVIDIA的V100和A100分别具有24GB和48GB的显存。
3. 使用分布式训练
分布式训练可以通过在多个GPU上分割训练过程来大大减少所需的显存。尽管这可能需要更复杂的设置和管理，但它在处理大型模型和大规模数据集时非常有用。
4. 使用专用显存扩充设备
例如NVIDIA的显卡，这些显卡配备了Tensor Cores和16GB至48GB的GDDR6内存，专为深度学习和机器学习工作负载设计。
5. 使用云服务
如果您需要处理非常大规模的数据集或模型，而又不想购买更多的硬件，那么使用云服务可能是个不错的选择。例如，Google Cloud Platform和Amazon Web Services都提供了具有大量显存的GPU实例。
6. 选择量化方案
- 优先考虑INT8量化：平衡内存使用和性能，适合大多数应用场景。
- 资源极其受限时使用INT4：最小的内存占用，适合边缘设备部署。
- 有充足资源时使用FP16：GPU推理首选，较好的精度，合理的内存占用。
7. 实践建议
- 始终预留50%系统内存给操作系统和其他程序。
- 考虑批处理大小对内存的影响。
- 注意模型加载和推理时的峰值内存使用。
- 在生产环境中进行充分的性能测试。
8. 基础设置：从启动参数入手
- 调整显存优化模式：在SD启动器的“高级选项”中，根据显卡显存选择对应的优化模式（例如4G显存选“低显存模式”）。
- 添加启动参数：在启动脚本（如
webui-user.bat）中加入--medvram或--lowvram参数，降低显存占用。
9. 降低图片分辨率
- 文生图阶段：初始分辨率设为512x512或更低，生成后再用“高清修复”放大（推荐算法：R-ESRGAN 4X+）。
- 图生图阶段：使用“SD upscale脚本”，分块处理避免显存爆炸。
10. 模型与插件精简
- 选择轻量模型：部分模型（如SD 1.5基础版）对显存要求更低，可优先使用。
- 关闭非必要插件：如同时开启多个ControlNet模块，显存占用会飙升，建议按需启用。
11. 硬件设置：释放隐藏资源
- N卡用户必看：打开NVIDIA控制面板→管理3D设置→找到SD相关程序→开启“共享系统内存”和“线程优化”，显存不足时可借用内存应急。
- 清理后台程序：任务管理器里关掉Chrome、微信等占用显存的应用。
12. 使用低精度模式
通过代码设置半精度推理（FP16），显存占用可减少约30%。操作步骤：
Python
from torch.cuda.amp import autocast
with autocast():
# 在此区间内运行模型推理
注意：此方法需一定代码基础，小白可直接用整合包的预设优化模式。
13. 模型压缩
可以通过减少模型参数的数量来压缩模型，例如使用较小的卷积核或者减少层数。
14. 半精度浮点数计算
使用FP16（半精度浮点数）代替FP32（单精度浮点数）可以有效减少显存占用。例如，使用PyTorch进行FP16训练：
Python复制
model.half() # 将模型转换为FP16精度
input = input.half() # 将输入数据转换为FP16精度
15. 减小批量大小
通过逐步减小批量大小来减少一次性占用的显存。
16. 累积梯度
在多个小批量上累积梯度，以实现更大的有效批量大小，避免显存不足。
17. 手动清理显存
通过显式调用 torch.cuda.empty_cache() 释放未使用的内存。
18. 使用分布式训练
通过分布式训练或者数据并行技术将模型分布到多个GPU上，从而减轻单个GPU的显存压力。
19. 参数高效微调（PEFT）技术
通过固定大部分模型参数，只训练少量额外参数，能够有效减少显存占用。例如，使用LoRA或QLoRA等技术。
