2017-07-27 64 views
1

我正在運行一個TF應用程序來推斷給定的模型。 但是,它不在GPU上運行,但在CPU上,儘管tensorflow庫是在啓用CUDA的情況下構建的。要了解TF模型,tensorflow模型(.pb)是否具有設備信息,如tf.device(/ cpu:0)或tf.device(/ gpu:0)?Tensorflow模型(.pb)包含設備信息?

回答

2

docs(重點煤礦):

有時導出元圖是從訓練環境,進口商沒有。例如,該模型可能已經在GPU上進行了培訓,或者在具有副本的分佈式環境中進行了培訓。導入這些模型時,能夠清除圖形中的設備設置非常有用,以便我們可以在本地可用的設備上運行它。 這可以通過撥打import_meta_graphclear_devices option設置爲True來實現。

with tf.Session() as sess: 
    new_saver = tf.train.import_meta_graph('my-save-dir/my-model-10000.meta', 
     clear_devices=True) 
    new_saver.restore(sess, 'my-save-dir/my-model-10000')