深度学习-笔记-1：课程介绍、深度学习介绍神经网络的发展历程，深度学习简介、定义、特点，人工智能三要素，常见的深度学习模

零、前言

本系列文章为根据

B站黑马程序员《神经网络与深度学习》
课程所整理，用于个人学习记录之用

一、课程介绍

神经网络的发展历程

下图为从生物的神经网络（箭头左侧），抽象为人工的神经网络（箭头右侧），右侧的模型也是最早的感知机模型，这里的f函数就是未来会学习的激活函数。
感知机模型的连接方式是固定的，这里的参数不可训练，因此感知机模型只能解决线性可分问题。

随后，提出了具备反向传播能力的神经网络结构，也就是BP神经网络（BP Neural Network，Back Propagation Neural Network）。
什么是反向传播呢？指其训练过程中，误差从输出层反向传递至输入层，逐层调节权重的一种机制。

其中，BP网络的核心，是通过正向传播，也就是从输入层，从左往右计算我们的输出值，反向传播从输出层到输入层来调整权重，解决了多层前馈神经网络的训练问题。这一突破，使得神经网络能够处理非线性任务。
BP神经网络因为拥有一个隐藏层，而如今的深度学习，就是在增加隐藏层的基础上，提高相应的计算能力，因此，深度学习通过也可以称之为多层神经网络。