cxsmarkchan

Electrical Engineering

赞

0

|

搜索文章

正则化方法：标签平滑

机器学习的样本中通常会存在少量错误标签，这些错误标签会影响到预测的效果。标签平滑采用如下思路解决这个问题：在训练时即假设标签可能存在错误，避免“过分”相信训练样本的标签。当目标函数为交叉熵时，这一思想有非常简单的实现，称为标签平滑（Label Smoothing）。我们以2类…

8年前
6.1k
2
评论

正则化方法：Dropout

Dropout是一种常见的正则化方法。它借用了集成学习的思想，近似实现了同时训练大量网络结构，并通过集成得出预测结果的功能。由于含有集成环节，Dropout可以有效地避免过拟合。 Dropout要解决的问题是：在同一个神经网络模型中，有没有可能通过一定的手段模拟出多个网络模型的…

8年前
1.6k
3
评论

个人成就

文章被点赞 5

文章被阅读 7,665

加入于

2017-11-30