LSTM單元格如何映射到圖層？

Question

我無法準確理解LSTM單元的範圍 - 它如何映射到網絡的圖層。從格雷夫斯（2014）：

在我看來，在單層網絡的層= LSTM細胞。這在多層次中如何實際工作？

三層RNN

LSTM細胞

電池的輸出是h_t沒有superindex指示特定層。與等式相同的東西。每個單元格是否跨越單個圖層？或者每個單元在每個時間跨越整個三個節點？

Answer 1

在圖1中用名稱h每個節點代表一個LSTM細胞。需要注意的是h_{t-1}，h{t}和h{t+1}具有相同superindex是相同的細胞。他們只是及時展開。然而，不同的superindices表示不同的LSTM單元。

與superindex 2或3的細胞的輸入不只是數據樣本x而且以前的電池的輸出。

你是正確的。單層RNN網絡由一個LSTM小區組成。在多層RNN情況下，中間LSTM信元的輸入是前一個LSTM信元的輸出。在圖1中，數據樣本x也與LSTM輸出一起輸入。