本文已参与「新人创作礼」活动,一起开启掘金创作之路。
- 转置卷积不是卷积的逆运算
- 转置卷积也是卷积
把卷积核矩阵转置乘原图矩阵就是转置卷积,因此卷积运算的反向传播就是通过转置卷积实现的。以及转置卷积在生成任务中如果卷积核大小为3,步长为2,会有非常明显的棋盘效应,因此更推荐使用最临近插值或双线性插值后再接一个卷积来取代转置卷积。
作用:上采样
步骤
普通卷积
普通卷积运算实际上并不会以滑动窗口的形式进行,因为是非常低效的,这里介绍一种实现方式
首先构建出与输入特征图相同大小的0矩阵,然后填充卷积核参数,然后与输入特征图相应位置相乘相加就是卷积输出
将输入特征图展平
再将等效矩阵展开
两个矩阵相乘就得到了输出特征图的展开形式。
那么能否根据C和O得到I呢?
不能,因为一个矩阵是否存在逆矩阵的必要条件是它必须是方阵,所以不能还原,一般情况卷积是不可逆的。非方阵只有广义逆矩阵。
但是如果只是要得到与输入相同大小的矩阵是可以的。
刚才是将等效矩阵转换成列矩阵,这里进行逆向操作
先将O还原回矩阵,再将的每一列变成一个等效矩阵,等效矩阵和O相乘相加就能得到P
这里会发现,使用等效矩阵和O相乘相加与使用绿色卷积核和填充后的矩阵卷积,结果一样
然后这个绿色卷积核和原卷积核上下、左右翻转后的结果一样