利用多個CPU核心和Tensorflow

Question

我可以訪問具有多個CPU核心（即56個）的計算機，並且在使用Tensorflow訓練模型時，我想通過使每個核心達到上述核心的最大使用率該模型的獨立培訓師。

在Tensorflow的文檔中，我發現了這兩個參數（Inter和Intra Op並行性），它們在訓練模型時控制並行性。但是，這兩個參數不允許執行我想要的操作。

我如何讓每個核心成爲獨立的工作人員？ （即每批工人分批抽樣，然後每個工人根據分配的樣本計算梯度，最後，每個工人根據梯度更新變量（由所有工人共享）計算出。

Answer 1

對所有56個CPU內核之間並行有效，你將不得不使用Distributed TensorFlow，也可以使用線程並行化，但它不會這麼多內核很好地擴展。