tf.trainable_variables返回多個圖形的變量

Question

我想在一個節點tensorflow示例中編寫自己的多GPU。

我讀到這裏的代碼：https://github.com/tensorflow/models/blob/master/tutorials/image/cifar10/cifar10_multi_gpu_train.py

礦井的核心代碼：

vars = tf.trainable_variables() 
grads = tf.gradients(cost, vars) 
tower_grads.append(grads) 

但由於程序運行到第二GPU，tf.trainable_variables()回報都在第一輪循環的tensorflow可變因素和第二輪張量流動變量。

順便說一句，我認爲這個任務是兩個GPU使用相同的變量，但漸變是不同的。這樣對嗎？

Answer 1

的問題是，

變量命名爲在第一輪aaa。

但是該變量在第二輪中被命名爲aaa_1。即使我設置​​。

的解決方案是使用tf.get_variable代替tf.Variable

我學會從https://github.com/normanheckscher/mnist-multi-gpu/blob/master/mnist_multi_gpu_batching_train.py#L356