池化、线性、激活函数层(7)

188 阅读1分钟

池化层-PoolingLayer

nn.MaxPool2d

nn.MaxPool2d 功能:对二维信号(图像)进行最大值池化 主要参数:

  • kernel_size:池化核尺寸
  • stride:步长
  • padding:填充个数
  • dilation:池化核间隔大小
  • ceil_mode:尺寸向上取整
  • return_indices:记录池化像素索引

image.png

nn.AvgPool2d

nn.AvgPool2d 功能:对二维信号(图像)进行平均值池化 主要参数:

  • kernel_size:池化核尺寸
  • stride:步长
  • padding:填充个数
  • ceil_mode:尺寸向上取整
  • count_include_pad:填充值用于计算
  • divisor_override:除法因子

image.png

nn.MaxUnpool2d

nn.MaxUnpool2d 功能:对二维信号(图像)进行最大值池化上采样 主要参数:

  • kernel_size:池化核尺寸
  • stride:步长
  • padding:填充个数

image.png

线性层

线性层又称全连接层,其每个神经元与上一层所有神经元相连实现对前一层的线性组合,线性变换 image.png

nn.Linear

nn.Linear 功能:对一维信号(向量)进行线性组合 主要参数:

  • in_features:输入结点数
  • out_features:输出结点数
  • bias:是否需要偏置

计算公式:y=𝒙𝑾𝑻+𝒃𝒊𝒂𝒔 image.png

激活函数层

激活函数对特征进行非线性变换,赋予多层神经网络具有深度的意义

nn.Sigmoid

image.png

nn.tanh

image.png

nn.ReLu

image.png

nn.LeakyReLu、nn.PReLu、nn.RReLu

image.png