Tensorflow中具有長序列的RNN的性能

Question

我構建了一個序列長度約爲10,000的RNN。花費很長時間才能創建優化器 train_op = tf.train.GradientDescentOptimizer(0.008).minimize(cost)並花了很長時間來訓練。我想知道如何加快計算過程。

Answer 1

最新版本的TensorFlow（當前夜間版本/即將發佈的版本0.8）包含一個稱爲tf.nn.dynamic_rnn()的實驗功能。此函數允許您使用TensorFlow圖形中的循環來構建RNN，這會顯着減少圖形中使用的節點數（因此必須爲梯度下降構建圖形的大小）。