反向传播(backward propagation，简称BP)指的是计算神经网络参数梯度的方法。其原理是基于微积分中的链式规则，按相反的顺序从输出层到输入层遍历网络，依次计算每个中间变量和参数的梯度。

工科学生都能看懂的梯度下降和反向传播！要想训练一个网络，对于梯度的理解是必不可少的，下面首先介绍梯度的一些基础概念。