LyleChen

在训练轻量化模型时，经常发生的情况就是，明明 GPU 很闲，可速度就是上不去，用了多张卡并行也没有太大改善。 为了提高GPU服务器的资源利用率，针对各种不同的训练配置进行了速度测试，并尝试提出一些改善的办法。 1. 实验配置 服务器为4卡TITAN RTX，进行实验时停止了其他…