一、基础概念

1.1 结构

1.2 RNN与传统NN对比

• 区别
  • 传统NN
    • 总是在同一时刻接受固定量的数据
    • 输出的数量是固定的
    • 没有时效性的概念
  • RNN
    • 不会在同一时刻输入全部数据
    • 数据按时间先后顺序输入模型进行计算，使数据保留了时效性
    • 每一时刻，RNN都会进行一系列计算后再输出结果（隐藏状态）
    • 隐藏状态会和下一时刻的输入进行拼接，用于生成下一时刻的输出
    • 在输入序列结束时，才会输出结果
• 简单的说，RNN在每一个时间步上可以用上一个时间步的隐藏信息作为输入信息，确保过去的信息可以传递到未来。
• （注意：RNN的神经单元是可以共享参数）

二、输出模式

输出模式分为两种，一种是只输出最后一个时刻的结果，另一种是每一个时刻的结果都输出。

2.1 只输出最后一个时刻的结果

• 采用RNN训练序列最后一个神经元作为输出结果
• 由于此最终输出已经通过所有先前单元格进行了计算，因此已经捕获所有先前输入的上下文（所有输入序列均完成计算）
• 最终结果取决于之前所有计算和输入
• 适用于文本分类/判别场景

2.2 每一时刻的结果均输出

• 采用RNN训练序列每一个神经元获取结果作为输出，（需要经过softmax/Relu作归一化处理之后输出）
• 在有必要的情况下，也会将每一时刻的输出作为下一时刻的输入
• 适用于逐字转换的场景

2.3 综合输出模式

综合了以上两种输出模式的综合输出模式。

- 采用RNN训练序列的最后一个神经元作为前半部分的输出，同时作为后半部分的输入。后半部分往往是使用新的训练序列每⼀时刻获取结果作为输出。
  这里类似于[[Transformer模型]]，前半部分是encoder，后半部分是decoder。encoder的部分可以选择经过Softmax/sigmoid函数归一化后输出。我们可以用预测文本字典去限制输出为汉语。
- 输入的信息走完全部时间步后，生成的final state作为下游的输入
- 适用于seq2seq场景            [[seq2seq模型]]

三、模型架构和参数

参考资料
一文搞懂RNN（循环神经网络）基础篇 - 知乎 (zhihu.com)
【循环神经网络】5分钟搞懂RNN，3D动画深入浅出_哔哩哔哩_bilibili
【数之道 09】揭开循环神经网络RNN模型的面纱_哔哩哔哩_bilibili

3.1 模型架构

一个简单的RNN由输入层Layer Input，隐藏层Dense hidden，和输出层Layer Output组成。

3.2 模型参数

1. 输入：
   • Input Tensor
   • Hidden State Tensor（init state 0）
     （可以是input输入也可以是隐藏状态作为输入）
2. 权重矩阵
   • 输入全连接矩阵 $W_i$
   • 隐藏全连接矩阵 $W_h$
   • 输出全连接矩阵 $W_o$
   • 以上三个矩阵在RNN中的线性相关参数矩阵，在整个RNN网络中都是共享的，之后通过bp算法进行参数的更新，所以体现了RNN循环反馈的思想。
3. 输出
   • New Hidden State
   • Output Tensor
     

3.3 RN在pytorch中的调用

1. 激活函数
   首先介绍三个激活函数
   

   显然，sigmoid函数把实数映射到[0,1]的值域上，而tanh函数将实数映射到[-1,1]的值域上，需要保留正负效应时使用tanh函数，而无方向，正负效应则选择sigmoid函数。而Relu函数相差比较大，在x=0处显然不连续，所以可以用于过滤信息的作用。

2. RNN输出计算公式
   $$h_t=tanh(x_t{W}_{ih}^T+b_{ih}+h_{t-1}{W}_{hh}^T+b_{hh})$$

   • $h_t$ 是t时刻的隐藏状态
   • $x_t$ 是t时刻的输入张量
   • $h_{t-1}$ 是t-1时刻的隐藏状态（初始化时为0）默认使用tanh函数激活。（选取非线性param时使用Relu函数）
   • $b_{ih}$ 和指的是input to hidden的bias
   • $b_{hh}$ 指的是hidden to hidden dense的bias
   • $W_{ih}$ 指的是input to hidden的权重矩阵
   • $W_{hh}$ 指的是hidden to hidden的权重矩阵

   将公式拆开就可以得到输入向量经权重矩阵变换的公式：
   

   $$u_t=W_i\ast x_t$$
   上一时刻隐藏状态的变换公式：$$h_t^{\prime }=W_h\ast h_{t-1}$$
   而隐藏状态需要输出还需要经过Softmax函数进行归一化处理。对当前隐状态进行输出的公式：$$输出：o_t=Softmax(h_t\ast W_{ho}^T)$$

   RNN(sequence, batch_size, feature)

   • sequence：输入数据序列，按时间顺序输入模型
   • batch_size：表示某时刻下输入信息的个数
   • feature：表示每个信息的特征维度

四、BPTT

Back Propagation Through Time 时序反向传播算法

• U是与$x_t$ 相关的权重矩阵，$W_i$
• W是RNN隐藏状态的权重矩阵，$W_h$
• V是RNN生成结果的权重矩阵（before Softmax）,$W_o$

从这里开始，我们考虑RNN经过t时刻网络训练后的前向传播和反向传播。
前向传播设计在输入上应用激活函数并最后返回预测结果。

• 反向传播用于计算和训练网络权重相关的目标函数梯度，最终更新这些参数。
• 从整体结构上看，RNN有三个可训练的权重矩阵，U($W_i$) W($W_h$) V($W_o$)
• 所以需要计算目标函数关于三个权重的导数

4.1 反向传播

我们使用$w_h$ 和$w_o$ 来表示隐藏层和输出层的权重
$$\{\begin{array}{rl}{h}_t& =f(x_t,h_{t-1},w_i,w_h)\\ o_t& =g(h_t,o_t)\end{array}$$
通过一个目标函数L在所有T个时间步内评估输出$o_t$ 和对应的标签$y_t$之间的损失，$l$ 是时刻t的损失值$$L(x_1,...,x_T,y_1,...,y_T,w_i,w_h,w_o)=\frac{1}{T}\sum _{t=1}^{T}l(y_t,o_t)$$

• 已知目标函数，计算目标函数与可训练矩阵$w_h$ 之间的梯度
• 第一项是损失函数$l$ 对输出函数$o_t$ 的梯度
• 第二项是输出函数$o_t$ 对隐状态函数$h_t$ 的梯度
• 第三项是隐状态函数$h_t$对可训练矩阵$w_h$之间的梯度
  $$\begin{array}{rl}\frac{\partial L}{\partial w_h}& =\frac{1}{T}\sum _{t=1}^T\frac{\partial l(y_t,o_t)}{\partial w_h}\\ & =\frac{1}{T}\sum _{t=1}^T\frac{\partial (y_t,o_t)}{\partial o_t}\frac{\partial g(h_t,w_o)}{\partial h_t}\frac{\partial h_t}{\partial w_h}\end{array}$$由于上一时刻的隐状态依然跟$w_h$ 相关，所以$\frac{\partial f(x_t,h_{t-1},w_h)}{\partial w_t}$ 应用链式法则求导$$\frac{\partial h_t}{\partial w_h}=\frac{\partial f(x_t,h_{t-1},w_h)}{\partial h_{t-1}}\frac{\partial h_{t-1}}{\partial w_h}+\frac{\partial f(x_t,h_{t-1},w_h)}{\partial w_h}$$
  假设存在三个序列 { a t } \{a_t\} {at​} , { b t } \{b_t\} {bt​} , { c t } \{c_t\} {ct​}
  当 $t=1,2,...$ ，序列满足条件 $a_0=0$ 且 $a_t=b_t+c_t\ast a_{t-1}$
  当$t\ge 1$ 时，基于公式进行替换$$\begin{array}{rl}{a}_t& =b_t+c_t\ast a_{t-1}\\ & =b_t+c_t\ast (b_{t-1}+c_{t-1}\ast a_{t-2})\\ & =b_t+c_t\ast b_{t-1}+c_t\ast c_{t-1}\ast a_{t-2}\\ & =b_t+c_t\ast b_{t-1}+c_t\ast c_{t-1}\ast (b_{t-2}+c_{t-2}\ast a_{t-3})\\ & =b_t+c_t\ast b_{t-1}+c_t\ast c_{t-1}\ast b_{t-2}+c_t\ast c_{t-1}\ast a_{t-3}\\ & =...\\ & =b_t+\sum _{i=1}^{t-1}\left(\prod _{j=i+1}^t{c}_j\right)b_i\end{array}$$
  公式推导完之后，再将这些序列代入$$\begin{array}{rl}\frac{\partial h_t}{\partial w_h}& =\frac{\partial f(x_t,h_{t-1},w_h)}{\partial h_{t-1}}\frac{\partial h_{t-1}}{\partial w_h}+\frac{\partial f(x_t,h_{t-1},w_h)}{\partial w_h}\\ & \\ a_t& =\frac{\partial h_t}{\partial w_t}\\ b_t& =\frac{\partial f(x_t,h_{t-1},w_h)}{\partial w_h}\\ c_t& =\frac{\partial f(x_t,h_{t-1},w_h)}{\partial h_{t-1}}\\ & \\ \frac{\partial h_t}{\partial w_h}& =\frac{\partial f(x_t,h_{t-1},w_h)}{\partial w_h}+\sum _{i=1}^{t-1}\left(\prod _{j=i+1}^t\frac{\partial f(x_t,h_{t-1},w_h)}{\partial h_{j-1}}\frac{\partial f(x_t,h_{t-1},w_h)}{\partial w_h}\right)\end{array}$$

五、RNN缺点

缺点很明显，对于长度为T的序列，我们在迭代中计算这T个时间步上的梯度，将会在反向传播过程中产生长度为O(T)的矩阵乘法链。当T的长度较长时，自然而然地会产生梯度爆炸或梯度消失的风险。

• 改进措施
  1. 计算BPTT时截断时间步
     • 在时间步长$\tau$ 之后停止计算梯度和，使用对真实梯度的近似作为结果，在实践中给出不错的结果，但是会导致模型的观测长度变短，导致模型倾向于基于短距离的数据影响，造成bias
  2. Truncated BPTT
     • 使用随机变量来生成变量，控制Truncated的长度（通过步长因子进行调整），TBPTT使用固定长度进行裁剪。类比Top-K容易受数据分布的影响，从而通过动态选择数据分布得到了Top-P⼀样，既然固定长度的剪切会有偏差，那么我们实时更新剪切长度，从而出现了ARTBP。
  3. Anticipated Reweighted Truncated Backpropagation （ARTBP）
     • 兼顾TBPTT的优点，尝试减少模型的bias，但是从实验结果上看，ARTBP并不比TBPTT好多少。因为梯度回传的由于序列过长导致梯度消失和梯度爆炸的根源问题没有解决。