卷积神经网络(2.卷积神经网络特点)

93 阅读2分钟

开启掘金成长之旅!这是我参与「掘金日新计划 · 12 月更文挑战」的第十二天,点击查看活动详情

总结:此文为12月更文计划第十二天第十八篇。

2.卷积神经网络特点

在全连接层,比如1000*1000的图片输入,那么第一层,接受的神经元个数应该是多少个呢?

神经元个数应该是接收到图片的特征数。所以在没有卷积层的过程中,输入层输入的参数达到万亿级别。

几乎不可能进行计算。

所以

卷积—解决问题,我们把每 1000*1000 的点映射到一个单元

◆局部连接

举例:

●图像大小 1000*1000

●下一层神经元为 10^6

●局部连接范围为 10*10,也就是只跟图像中的 100 个像素做连接

●全连接参数为 101010^6=10^8

10^8 依然是很多的,下面用另一种办法,参数共享

◆局部连接

◆参数共享—图中的蓝色的,红色的参数数目是相同的,做参数共享

举例:

●图像大小 1000* 1000

●下一层神经元为 10^6

●局部连接范围为 10*10

●全连接参数为 10*10=10^2 从 1 亿降为了 1 百,因为跟神经元没有关系,所以不再乘以10^6

为什么我们可以这么做(卷积为什么有作用)呢?

局部连接

图像的区域性—爱因斯坦的嘴唇附近的色彩等是相似的

参数共享与平移不变性

图像特征与位置无关---左边是脸,右边也是脸,这样无论脸放在什么地方都检查出来,

卷积操作:

image.png

刚好可以解决过拟合的问题(否则脸放到其他地方就检测不出来) 卷积运算主要通过三个重要思想来改进上述面来的问题:稀疏连接参数共享平移不变性

卷积-解决问题-来看节点的数目的减少

卷积操作的参数共享特性使得需要优化的参数数目大幅缩减,提高了训练的速度。