LSTM 是循环神经网络基本概念的一种扩展,同样也存在其他各种形式的扩展。所有这些扩展无外乎都是对元胞内门的数量或运算的一些微调。例如,门控循环单元将遗忘门和候选门中的候选选择分支组合成一个更新门。这个门减少了需要学习的参数数量,并且已经被证实可以与标准 LSTM 相媲美,同时计算开销也要小得多。
结构:
GRU:有两个输入,两个输出
Keras 提供了一个 GRU 层,我们可以像使用 LSTM一样使用它,如代码:
from keras.models import Sequential
from keras.layers import GRU
model = Sequential()
model.add(GRU(num_neurons, return_sequences=True, input_shape=X[0].shape))