了解RNN模型的基本单位LSTM、GRU、RQNN和SRU。

RNN模型的基本结构是细胞,其中最常见的是LSTM细胞和GRU细胞,它们是RNN模型的基本结构部分。利用该装置建立的RNN模型拟合效果更好。

LSTM单元和GRU单元是RNN模型中最常见的单元,其内容由输入门、遗忘门和输出门三种结构组成。

LSTM单位和GRU单位的职能几乎相同,但唯一的区别在于:

相比之下,使用GRU单位更容易。

准递归神经网络单元是RNN模型的基本单元,比LSTM单元速度快。

QRNN单位发表于2016。它用卷积运算代替传统的循环结构,其网络结构介于RNN和CNN之间。

QRNN内部的卷积结构可以矩阵方式同时计算序列数据,不再需要像循环结构那样按序列顺序计算。它用并行操作方式代替串行,提高了操作速度。在训练中,卷积结构也比圆形结构更稳定。

在实际应用中,QRNN单元可以任意替换为RNN模型中已有的单元。

欲了解更多信息,请参考论文:

准递归神经网络

SRU元素是RNN模型的基本元素。其功能类似于QRNN元素,同时也提高了LSTM元素的速度。

为了输出结果,LSTM单元必须按顺序逐个操作样本。这种运行方式使得单元在多机并行计算的环境下无法发挥最大的作用。

SRU单位出版于2017。它保持了LSTM单元的循环结构,并通过调整运算顺序(将矩阵乘法放在串行循环之外,将乘法加在串行循环中)来提高运算速度。

如果需要研究更深层次的SRU元素理论,可以参考以下论文:

高度并行递归的简单递归单元

关于函数tf.contrib.rnn.SRUCell的更多用法,请参考官方帮助文档。

/tensor flow/tensor flow/blob/r 1.15/tensor flow/contrib/rnn/python/ops/rnn _ cell . py # l 2738-l 2816