卷积神经网络随记

211 阅读1分钟

卷积层

定义过滤器(观察窗口)大小(奇数),步长(移动的像素数量)1。
观察窗口大小例如:1*1 3*3 5*5
过滤器的内容都是权重值。

filter过滤器可以有多个(类似多个人去观察)

卷积层输出体积大小的计算

激活函数(ReLU)

增加激活函数,即增加网络的非线性分割能力。

池化层

特征提取(将有代表性的特征提取处理),去掉不重要的样本。

网络结构参考实例

图片大小[28, 28, 1]
一卷积层

  • 卷积: 32个filter, 5*5, strides 1, padding "SAME", 输入[None,28,28,1] 输出[None,28,28,32]
  • 激活: [None,28,28,32]
  • 池化: 2*2, strides2, padding "SAME", 输入[None,28,28,32] 输出[None,14,14,32]

二卷积层

  • 卷积: 64个filter, 5*5, strides, padding "SAME", 输入[None,14,14,32] 输出[None,14,14,64]
  • 激活: [None,14,14,64]
  • 池化: 2*2, strides 2, padding "SAME", 输入[None,14,14,64] 输出[None,7,7,64]

全连接层
输入[None,7*7*64] [7*7*64,10] 输出[None,10]