培訓網絡時，我可以安全地從另一個線程進行推理嗎？

Question

我有幾個線程可以更新我的網絡權重或者對它進行推理。我使用優化器的參數來防止權重的併發更新。

推論應該總是使用最近的，重要的是一致的版本。換句話說，我想阻止使用一個權重矩陣進行推理，其中一些元素已經更新，而另一些則不是。

這是有保證的嗎？如果不是，我該如何確保這一點？似乎沒有tf.Lock或類似。

Answer 1

您的推理調用是否需要在圖形的最新版本上？如果您不介意延遲，可以通過在培訓線程上調用sess.graph.as_graph_def來創建圖的副本，然後定期使用該graph_def在推斷線程上創建一個新會話。