深度学习

本文介绍了在深度学习中除了网络搭建和损失函数外，其它比较重要的部分：包括权重初始化、对网络输出层归一化、以及正则化等操作。不仅介绍了这些方法的原理和实现，并且解释了为什么要在深度学习中使用这些方法。

本文从全连接神经网络的案例，逐步讲述了深度学习中优化器的一步步演变，以及其中的原理；还讲述了神经网络初始化权重对网络训练的重要性，以及为什么。

本文首先介绍了在计算机中计算微分的一些方法，通过指出各种方法的优劣，慢慢引出反向自动微分算法。然后通过一个简单的例子，一步一步的介绍了反向自动微分算法的运行流程。

本文通过手推两层神经网络正向传播和反向传播的例子，介绍了深度学习的本质是什么，然后介绍了反向传播算法的细节。

你对机器学习的了解是什么？这篇文章通过讲述softmax回归来预测手写数字这一案例，对机器学习的本质进行了介绍，并从头推导出整个机器学习算法的流程。如果你也想从头学习一遍机器学习，来阅读这篇文章把！