loss:训练集的损失值
val_loss:测试集的损失值
一般训练规律:
loss,val_loss:训练网络正常,最理想情况情况。
loss,val_loss:网络过拟合。解决办法:①数据集没问题:可以向网络“中间深度”的位置添加Dropout层;或者逐渐减少网络的深度(靠经验删除一部分模块)。②数据集有问题:可将所有数据集混洗重新分配,通常开源数据集不容易出现这种情况。
loss,val_loss:数据集有严重问题,建议重新选择。一般不会出现这种情况。
loss,val_loss:学习过程遇到瓶颈,需要减小学习率(自适应动量优化器小范围修改的效果不明显)或batch数量。
loss,val_loss:可能是网络结构设计问题、训练超参数设置不当、数据集需要清洗等问题。属于训练过程中最差情况。
(注意:上面提到的“下降”、“稳定”和“上升”是指整体训练趋势。)