LSTM预测：Matlab源码中如何用双向biLSTM进行数据回归预测？

本文共计815个文字，预计阅读时间需要4分钟。

Bi-LSTM网络简介：Bi-LSTM网络是LSTM（长短期记忆网络）的变体，它结合了双向LSTM的结构，能够同时考虑序列的前向和后向信息。这种网络结构改进了RNN在处理长期依赖问题上的不足，提高了模型对序列数据的理解能力。LSTM单元结构如图所示，其中ct和ht分别代表细胞状态和隐藏状态。

1 简介

Bi-LSTM网络理论

LSTM 网络是循环神经网络 (Recurrent Neural Network，RNN) 的变体，改善了 RNN 存在的无法解决长期依赖的问题。LSTM 单元结构如图 1 所示。其中，ct，ht 分别表示模型的记忆状态和隐层状态，xt，yt 分别表示模型的输入与输出，σ 表示 sigmoid激活函数。LSTM 的单元内存在 4 个不同的全连接层，全连接层的每一个结点都与上一层的所有结点相连，其主要用途是把模型提取到的特征综合起来。主层是图中输出为 c~t 的层，其基本作用是分析当前输入xt 和前一个隐状态 ht -1。其他 3 个层是门限控制器，分别是：由 ft 控制的忘记门限，控制着哪些记忆状态应被丢弃；由 it 控制的输入门限，控制着 c~t 的哪些部分会被加入到记忆状态；由 ot 控制的输出门限，控制着哪些记忆状态应在这个时间迭代被读取和输出。随着记忆状态 ct -1 从左到右贯穿网络，它首先经过一个忘记门限丢弃一些记忆，然后通过输入门限选择添加一些新的记忆。