Paddle实践专栏

CosineWarmup是一种非常实用的训练策略，本次教程将带领大家实现该训练策略。教程将从理论和代码实战两个方面进行。

对于池化层和步长为2的卷积层来说，个人的理解是这样的，池化层是一种先验的下采样方式，即人为的确定好下采样的规则；而对于步长为2的卷积层来说，其参数是通过学习得到的，采样的规则是不确定的。

重新思考神经网络的激活函数：Dynamic ReLU 与ACON激活函数复现，代码实战与理论讲解，飞桨实现。

这是一篇考古的论文复现项目，在2018年Uber团队提出这个CoordConv模块的时候有很多文章对其进行批评，认为这个不值得发布一篇论文，但是现在重新看一下这个idea，你就会感概历史是个圈。

低配版PP-YOLO实战 开启掘金成长之旅！这是我参与「掘金日新计划 · 2 月更文挑战」的第 22 天，点击查看活动详情

当感光元件像素的空间频率与影像中条纹的空间频率接近时，可能产生一种新的波浪形的干扰图案，即所谓的摩尔纹。

基于 Dropout 的这种特殊方式对网络带来的随机性，研究员们提出了 R-Drop 来进一步对（子模型）网络的输出预测进行了正则约束。论文通过实验得出一种改进的正则化方法R-dropout

通过引入自由度 k，损失可以更好的拟合数据的不同分布。当数据存在多分布或类别分布不均衡的时候，最小化平均损失会牺牲掉小类样本以达到在整体样本集上的损失最小；

在本次课程中，将以柠檬品相分类比赛为例，为大家详细介绍下图像分类比赛的完整流程。为大家提供从数据处理，到模型搭建，损失函数、优化算法选择，学习率调整策略到模型训练，以及推理输出一条龙服务。

本次教程将带领大家完整的走一遍比赛流程。经过前面一系列教程，相信大家对飞桨已经熟悉了，但是我们不能一直纸上谈兵，所以本次就带领大家完成一个实际的比赛项目。

本文介绍如何在在三大系统（Windows、Linux、MacOS）中使用OpenVINO部署飞桨模型。以10种猴子的分类为例，训练出飞桨模型，再使用OpenVINO对飞桨模型进行部署。

基于Densenet&Xception融合的102种鲜花识别，这个融合模型是我在打比赛的时候随手搞出来的。 这个数据集实际上没有难度，类间分布较为均匀，属于典型的细粒度分类问题。

最近在回顾之前学到的知识，看到了数据增强部分，对于CutMix以及Mixup这两种数据增强方式发现理解不是很到位，所以这里写了一个项目再去好好看这两种数据增强方式。

在该论文中，作者提出了一种新型的Transformer模块，称为多轴自注意力（multi-axis self-attention, Max-SA）

受量子物理中波粒二象性的启发，以及最近 复现的八度卷积的设计思想启发，在本项目中设计了DWT-CNN，将神经网络的输入进行信号分解，分别送入网络的不同分支，最后通过一个全连接层进行分类。

考虑了CNN网络的各个结构，认为卷积层本身是具有平移不变性的，而池化层破坏了平移不变性。作者认为可以借鉴信号处理中反锯齿算法的设计，即在信号下采样之前进行低通滤波（也就是图像模糊）

PyConv和PyHGConv。PyConv中使用相对较小的分组数，包括16，8，4，2。PyHGConv使用较大的分组数，包括32和64。

半精度（也被称为FP16）对比高精度的FP32与FP64降低了神经网络的显存占用，使得我们可以训练部署更大的网络，并且FP16在数据转换时比FP32或者FP64更节省时间。

本项目中，通过对小说人物形象的分析进行形象的生成，完成AIGC技术的探索应用。通过此项技术，借助大模型的跨模态综合技术能力，可以激发创意，提升内容多样性，降低制作成本，将会实现大规模应用。

不同于传统的卷积，八度卷积主要针对图像的高频信号与低频信号。首先，我们回忆一下数字图像处理中的高频信号与低频信号的概念。图像中的低频信号和高频信号也叫做低频分量和高频分量。