愉快的李长安

CosineWarmup是一种非常实用的训练策略，本次教程将带领大家实现该训练策略。教程将从理论和代码实战两个方面进行。

对于池化层和步长为2的卷积层来说，个人的理解是这样的，池化层是一种先验的下采样方式，即人为的确定好下采样的规则；而对于步长为2的卷积层来说，其参数是通过学习得到的，采样的规则是不确定的。

重新思考神经网络的激活函数：Dynamic ReLU 与ACON激活函数复现，代码实战与理论讲解，飞桨实现。

这是一篇考古的论文复现项目，在2018年Uber团队提出这个CoordConv模块的时候有很多文章对其进行批评，认为这个不值得发布一篇论文，但是现在重新看一下这个idea，你就会感概历史是个圈。

低配版PP-YOLO实战 开启掘金成长之旅！这是我参与「掘金日新计划 · 2 月更文挑战」的第 22 天，点击查看活动详情

当感光元件像素的空间频率与影像中条纹的空间频率接近时，可能产生一种新的波浪形的干扰图案，即所谓的摩尔纹。

基于 Dropout 的这种特殊方式对网络带来的随机性，研究员们提出了 R-Drop 来进一步对（子模型）网络的输出预测进行了正则约束。论文通过实验得出一种改进的正则化方法R-dropout

通过引入自由度 k，损失可以更好的拟合数据的不同分布。当数据存在多分布或类别分布不均衡的时候，最小化平均损失会牺牲掉小类样本以达到在整体样本集上的损失最小；

在本次课程中，将以柠檬品相分类比赛为例，为大家详细介绍下图像分类比赛的完整流程。为大家提供从数据处理，到模型搭建，损失函数、优化算法选择，学习率调整策略到模型训练，以及推理输出一条龙服务。