上节回顾
-
神经单元：
表示权重，
表示输入，
表示偏差
-
输出
神经单元通过激活函数
() ， 根据加权输入z输出y
神经网络
将神经单元连接为网络状，就形成了神经网络。 神经网络的连接方式多种多样，如 阶层型神经网络、卷积神经网络CNN、循环神经网络RNN、生成对抗网络GAN等；
神经网络各层的职责
阶层型神经网络，按照层（ layer ）划分神经单元， 通过这些神经单元处理信号，并从输出层得到结果。
构成这个网络的各层称为输入层、隐藏层、输出层，其中隐藏层也称为中间层。 输入层负责读取信息； 隐藏层执行特定操作进行信息处理； 输入层与隐藏层一样执行信息处理，并显示神经网络计算出的结果。
深度学习
深度学习是叠加了很层的神经网络。叠加层有各种各样的方法，其中著名的是CNN。
神经网络如何发挥功能
例题： 建立一个神经网络， 以识别通过
像素的图像读取手写数字0和1。学习数据是64张图像，其中像素是单色二值。
输入层的特征是与下一层的所有神经单元都有箭头连接，这样的层构造称为全连接层（fully connected layer）。
输出层是由两个神经单元构成， 这是因为我们的题目是识别两种手写数字0和1， 需要一个在读取手写数字0时输出较大值（即反应较大）的神经单元， 以及一个在读取手写数字1时输出较大值的神经单元。 如果使用sigmoid激活函数，即，当读取数字0的图像时，输出0接近1， 输出1接近0； 读取数字1的图像时，输出0接近0， 输出1接近1；
隐藏层用于提取输入图像的特征。
在这个解题中，隐藏层是1层，由3个神经单元组成。为什么是1层，不是2层？为什么由3个不是5个神经单元？
将在下一小节进行说明。
