携手创作，共同成长！这是我参与「掘金日新计划 · 8 月更文挑战」的第23天，点击查看活动详情
卷积神经网络特点
局部连接
卷积神经网络是在全连接神经网络上的拓展和变形，与全连接神经网络的不同之处在于，卷积神经网络中，部分相邻的两层之间不再采用全连接的方式，而采用本层每个神经元只与上一层部分神经元相连接的局部连接方式。如下图所示，分别为全连接和局部连接。
图 1 全连接
图 2 局部连接
局部连接不仅可以很好的反应图片的局部关联性，提取有效的图片特征，并且可以减少网络整体的训练参数。如图 1 和图 2 所示，第一层都包含 7 个神经元，第二层都包含 5 个神经元，在图 1 中使用全连接包含的参数总数为：5×(7+1)=40，其中 7 表示权重参数个数，1 表示偏置参数个数；而在图 2 中局部连接包含的参数总数为：5×(3+1)=20，可以看出全连接的参数总数是局部连接参数总数的 2 倍。
权值共享
作为卷积神经网络的另一个基本特征，权值共享的作用也是用来减少参数数量。经过局部连接操作之后，网络的参数数量虽然减少了很多，但是其参数数量依然庞大，那么有没有办法进一步减少参数量呢？权值共享的出现，很好的回答了这个问题。权值共享的主要思想是将具有相同权重参数的卷积滤波器作用于整个图像的不同位置，通过共享操作，实现减少参数数量的目的。图 3 给出了权值共享的示意图。
图 3 权值共享
作为卷积神经网络的另一个基本特征，权值共享的作用也是用来减少参数数量。经过局部连接操作之后，网络的参数数量虽然减少了很多，但是其参数数量依然庞大，那么有没有办法进一步减少参数量呢？权值共享的出现，很好的回答了这个问题。权值共享的主要思想是将具有相同权重参数的卷积滤波器作用于整个图像的不同位置，通过共享操作，实现减少参数数量的目的。图 3 给出了权值共享的示意图。
