如何構建參數服務器？

Question

在分佈式張量流中，參數服務器是否需要與主服務和輔助服務一起構建爲張量流服務器？如果答案是肯定的，那麼PS機器也可以成爲工人嗎？

Answer 1

在分佈式TensorFlow中，每個工人也都是主人。此外，TensorFlow運行時只有一種工作者，與其前身DistBelief不同，後者具有專門的參數服務器工作人員。

您可以通過使用一些worker來存儲參數和其他參數來執行session.run請求來實現傳統的參數服務器體系結構。