TensorFlow的RNN單元和單元格

Question

許多RNN類（BasicRNNCell,LSTMCell等）的構造函數接受名爲num_units的參數。這設置單元格中的單位數量。

我認爲這個標識的RNN應該按順序處理元素的數量。所以如果你想要一個RNN來處理長度爲N的序列，你將每個單元有N個單位。它是否正確？什麼是RNN單位？

Answer 1

不，這是不正確的。

num_units指的功能，你的細胞可以代表數量。在每個時間步驟中，給予一定大小的輸入（您呼叫「元素RNN應在序列處理的數量」）。這就像你的神經網絡的第0層。然後將此輸入處理爲隱藏層，大小爲num_units。這也是單元格輸出的大小。

你稱之爲N，由輸入張量的大小決定。 num_units是您模型的超參數。它越大，模型的自由度就越多（更具描述性的特徵）。

Answer 2

這裏NUM_UNITS指單位LSTM（或RNN）細胞的數量。

num_units可以被解釋爲來自前饋神經網絡的隱藏層的類比。前饋神經網絡的隱藏層中的節點的數量等於LSTM單元中每個時間步長的L_MM單元的數量單位所述network.Following畫面應清除任何confusion- enter image description here

（從https://jasdeep06.github.io/posts/Understanding-LSTM-in-Tensorflow-MNIST/