TensorBoard中的軌道驗證損失如何？

Question

我正在訓練TensorFlow中的模型。定期在培訓期間，我在驗證集上評估模型。我想寫一個訓練過程的摘要，以便TensorBoard顯示驗證集丟失的圖表，以便我可以看到它隨着更多訓練迭代而下降。 （或者如果我開始過度訓練，則跳回備份。）

我已經有一個全局迭代變量作爲我的總結的一部分。我正在考慮在模型圖中創建一個標量摘要validation_loss變量，該變量未連接到任何東西，但是我定期從我的訓練循環中爲其分配變量。

這是一個很好的策略嗎？在TensorFlow中有更習慣的方法來做到這一點嗎？

（我工作的具體項目是TensorFlow RNN Language Model，這是TensorFlow文檔中的RNN tutorial的推廣。）

Answer 1

據我瞭解，慣用的解決方案是合併所有摘要（萬一損失不是您唯一的摘要），然後分別爲您的培訓和驗證集創建tf.train.SummaryWriter。然後在驗證SummaryWriter上對每個（定期）迭代使用add_summary Op。