千層麪 - 爲什麼驗證損失突出顯示綠色？

Question

我正在運行MNIST神經網絡示例，並且在對分類器進行訓練時，驗證丟失列（和訓練丟失）的某些值以綠色突出顯示。如果我的學習率爲0.01，所有都是綠色的，但是如果我將它增加到0.1，只有一半是高亮的。

這突出顯示意味着什麼？

輸出例如：

Answer 1

在不知道內部結構，我看到有一個圖案。

• 顏色的每一行，只要有改善（最小化 - >這是更低）
  • 列車虧損藍色
  • VAL-損失綠色
• 停止着色時損失/驗證確實增加
  • 在此一次性增加之後不要再着色

不同的學習率會影響不同的列車損失/損失路徑，因此會導致一些可能的不同着色。

你的例子非常適合，因爲在降低損失（更多藍色，更多綠色）方面，較低的學習率通常更穩定（從迭代到迭代）。