小知识，大挑战！本文正在参与“程序员必备小知识”创作活动。

一、RNN网络结构

首先来对比简单的全连接神经网络和RNN的结构的异同，如图下图所示，我们会发现RNN比全连接神经网络多了参数h，因此RNN的神经元公式会比全连接神经网络的神经元多一项。

至于训练过程，和全连接神经网络并没有区别，都是是基于梯度下降的方法去不断缩小预测值与真实值之间差值的过程。

下图中左下图的是输出神经元的公式，有这个公式我们可以看出：整一个RNN结构共享1组（U, W, b），且每一个隐藏层神经元h的计算公式是由当前输入X与上一个隐藏层神经元的输出组成。

二、其他RNN网络结构

上面这个RNN结构最经典的用途是文本（序列）分类。RNN不止这种结构，大家可以按照自己的想法去设计输入和输出，从而完成相应的任务，我们下面看几种常见的RNN结构及其用途。

RNN网络结构的优势就是，它的输入是可以多个且有序的，它可以模拟人类阅读的顺序去读取文本或者别的序列化数据，且通过隐藏层神经元的编码，上一个隐藏层神经元的信息可以传递到下一个隐藏层神经元，因而形成一定的记忆能力，能够更好地理解序列化数据。