专栏：神经网络复现目录

双向循环神经网络

双向循环神经网络（Bidirectional Recurrent Neural Network，简称BRNN）是一种能够处理序列数据的神经网络，它能够在一个序列数据中同时考虑过去和未来的信息。与传统的循环神经网络（RNN）不同的是，BRNN在每个时间步上使用两个独立的循环结构，一个用于从过去到未来的传递信息，另一个用于从未来到过去的传递信息。

BRNN 的主要思想是将输入序列分别从两个方向（前向和后向）进行处理，然后将它们的输出合并起来。这样，BRNN 可以利用序列中所有的信息，包括过去和未来，从而更好地捕捉序列中的长期依赖关系。比如，在自然语言处理中，BRNN可以处理由左到右和由右到左的文本序列，提高文本表示的质量，从而提高模型的性能。

文章目录

• 双向循环神经网络
• 隐马尔可夫模型中的动态规划
• 双向模型
• • 数学定义
  • 模型的计算代价及其应用
  • 缺陷！！

隐马尔可夫模型中的动态规划

隐马尔可夫模型（Hidden Markov Model，HMM）是一种用于建模序列数据的概率模型，常用于语音识别、自然语言处理、生物信息学等领域。HMM假设每个观测数据是由一个隐含状态序列和一个与状态相关的观测序列组成。其中，隐含状态序列是一个马尔可夫过程，即每个状态只与前一个状态有关。观测序列是由各个状态生成的观测数据序列。

在HMM中，通常采用前向算法和后向算法来计算给定观测序列的概率。这两种算法都使用动态规划来解决。

前向算法用于计算观测序列 O=(o1,o2,...,oT)O=(o_1, o_2, ..., o_T)O=(o1​,o2​,...,oT​) 在模型 λ=(π,A,B)\lambda = (\pi, A, B)λ=(π,A,B) 下的概率 P(O∣λ)P(O|\lambda)P(O∣λ)。它的基本思想是在每个时间步 ttt，计算在已知前面所有观测值 o1,o2,...,ot−1o_1, o_2, ..., o_{t-1}o1​,o2​,...,ot−1​ 的情况下，系统处于状态 iii 的概率 αt(i)\alpha_t(i)αt​(i)。这个概率可以通过递推计算得到。具体而言，对于 t=1t=1t=1，我们有
α1(i)=πibi(o1)\alpha_1(i) = \pi_i b_i(o_1)α1​(i)=πi​bi​(o1​)

对于 t>1t>1t>1，我们有
αt(i)=[∑j=1Nαt−1(j)aji]bi(ot)\alpha_t(i) = \left[\sum_{j=1}^N \alpha_{t-1}(j)a_{ji}\right] b_i(o_t)αt​(i)=[j=1∑N​αt−1​(j)aji​]bi​(ot​)

其中，NNN 是隐含状态的数量，aija_{ij}aij​ 表示从状态 iii 转移到状态 jjj 的概率，bi(ot)b_i(o_t)bi​(ot​) 表示在状态 iii 生成观测 oto_tot​ 的概率。

通过递推计算 αt(i)\alpha_t(i)αt​(i)，最终可以得到 P(O∣λ)=∑i=1NαT(i)P(O|\lambda) = \sum_{i=1}^N \alpha_T(i)P(O∣λ)=∑i=1N​αT​(i)。

后向算法用于计算给定观测序列 OOO 和模型 λ\lambdaλ 下，系统处于状态 iii 的概率 βt(i)\beta_t(i)βt​(i)。后向算法的基本思想是在已知后面所有观测值 ot+1,ot+2,...,oTo_{t+1}, o_{t+2}, ..., o_Tot+1​,ot+2​,...,oT​ 的情况下，系统处于状态 iii 的概率。具体而言，对于 t=Tt=Tt=T，我们有
βT(i)=1\beta_T(i) = 1βT​(i)=1

对于 t βt(i)=∑j=1Naijbj(ot+1)βt+1(j)\beta_t(i) = \sum_{j=1}^N a_{ij} b_j(o_{t+1}) \beta_{t+1}(j)βt​(i)=j=1∑N​aij​bj​(ot+1​)βt+1​(j)

通过递推计算 βt(i)\beta_t(i)βt​(i)，可以得到 P(O∣λ)=∑i=1Nπibi(o1)β1(i)P(O|\lambda) = \sum_{i=1}^N \pi_i b_i(o_1) \beta_1(i)P(O∣λ)=∑i=1N​πi​bi​(o1​)β1​(i)。

同时，前向算法和后向算法还可以用来计算给定观测序列和模型，系统处于某一状态 iii 的概率 γt(i)\gamma_t(i)γt​(i) 和从状态 iii 到状态 jjj 的转移概率 ξt(i,j)\xi_t(i,j)ξt​(i,j)。具体而言，对于 t=1,2,...,Tt=1,2,...,Tt=1,2,...,T，我们有

γt(i)=αt(i)βt(i)P(O∣λ)\gamma_t(i) = \frac{\alpha_t(i) \beta_t(i)}{P(O|\lambda)}γt​(i)=P(O∣λ)αt​(i)βt​(i)​

ξt(i,j)=αt(i)aijbj(ot+1)βt+1(j)P(O∣λ)\xi_t(i,j) = \frac{\alpha_{t}(i) a_{ij} b_j(o_{t+1}) \beta_{t+1}(j)}{P(O|\lambda)}ξt​(i,j)=P(O∣λ)αt​(i)aij​bj​(ot+1​)βt+1​(j)​

其中，P(O∣λ)P(O|\lambda)P(O∣λ) 是观测序列 OOO 在模型 λ\lambdaλ 下的概率。

动态规划在HMM中的应用，使得我们可以高效地计算观测序列的概率，以及在给定观测序列的情况下，系统处于某一状态的概率和转移概率。这对于模型训练和预测都非常有帮助。

双向模型

如果我们希望在循环神经网络中拥有一种机制， 使之能够提供与隐马尔可夫模型类似的前瞻能力， 我们就需要修改循环神经网络的设计。 幸运的是，这在概念上很容易， 只需要增加一个“从最后一个词元开始从后向前运行”的循环神经网络， 而不是只有一个在前向模式下“从第一个词元开始运行”的循环神经网络。 双向循环神经网络（bidirectional RNNs） 添加了反向传递信息的隐藏层，以便更灵活地处理此类信息。 下图描述了具有单个隐藏层的双向循环神经网络的架构。

数学定义

正向隐藏状态:
H→t=ϕ(XtWxh+H→t−1Whh+bh)H_{\rightarrow t} = \phi(X_t W_{xh} + H_{\rightarrow t-1} W_{hh} + b_h)H→t​=ϕ(Xt​Wxh​+H→t−1​Whh​+bh​)
反向隐藏状态：
H←t=ϕ(XtWxh+H←t+1Whh+bh)H_{\leftarrow t} = \phi(X_t W_{xh} + H_{\leftarrow t+1} W_{hh} + b_h)H←t​=ϕ(Xt​Wxh​+H←t+1​Whh​+bh​)
输出：
Ot=HtWhq+bqO_t = H_t W_{hq} + b_qOt​=Ht​Whq​+bq​
其中，XtX_tXt​ 是输入，Wxh,Whh,WhqW_{xh}, W_{hh}, W_{hq}Wxh​,Whh​,Whq​ 是权重矩阵，bh,bqb_h, b_qbh​,bq​ 是偏置项，ϕ\phiϕ 是激活函数，H→tH_{\rightarrow t}H→t​和 H←tH_{\leftarrow t}H←t​ 是正向和反向的隐藏状态，Ht=[H→t;H←t]H_t = [H_{\rightarrow t}; H_{\leftarrow t}]Ht​=[H→t​;H←t​] 是双向隐藏状态，OtO_tOt​ 是输出。

模型的计算代价及其应用

双向循环神经网络的一个关键特性是：使用来自序列两端的信息来估计输出。 也就是说，我们使用来自过去和未来的观测信息来预测当前的观测。 但是在对下一个词元进行预测的情况中，这样的模型并不是我们所需的。 因为在预测下一个词元时，我们终究无法知道下一个词元的下文是什么， 所以将不会得到很好的精度。 具体地说，在训练期间，我们能够利用过去和未来的数据来估计现在空缺的词； 而在测试期间，我们只有过去的数据，因此精度将会很差。 下面的实验将说明这一点。

另一个严重问题是，双向循环神经网络的计算速度非常慢。 其主要原因是网络的前向传播需要在双向层中进行前向和后向递归， 并且网络的反向传播还依赖于前向传播的结果。 因此，梯度求解将有一个非常长的链。

缺陷！！

由于双向循环神经网络使用了过去的和未来的数据， 所以我们不能盲目地将这一语言模型应用于任何预测任务。 尽管模型产出的困惑度是合理的， 该模型预测未来词元的能力却可能存在严重缺陷。 我们用下面的示例代码引以为戒，以防在错误的环境中使用它们。

import torch
from torch import nn
from d2l import torch as d2l# 加载数据
batch_size, num_steps, device = 32, 35, d2l.try_gpu()
train_iter, vocab = d2l.load_data_time_machine(batch_size, num_steps)
# 通过设置“bidirective=True”来定义双向LSTM模型
vocab_size, num_hiddens, num_layers = len(vocab), 256, 2
num_inputs = vocab_size
lstm_layer = nn.LSTM(num_inputs, num_hiddens, num_layers, bidirectional=True)
model = d2l.RNNModel(lstm_layer, len(vocab))
model = model.to(device)
# 训练模型
num_epochs, lr = 500, 1
d2l.train_ch8(model, train_iter, vocab, lr, num_epochs, device)