使用驗證集早期停止在神經網絡中

Question

我想使用早期停止方法來避免過度擬合神經網絡。 我已經分了我的數據集60-20-20

60 - 培訓 20 - 驗證設置 20 - 測試設定

我有一個疑問，而實現提前停止。

1. 我們使用訓練集更新一個曆元的權重。我們在使用訓練集的網絡中遇到了錯誤。
2. 我們需要計算驗證集的錯誤。我們應該平均每個驗證實例的所有錯誤嗎？ E.g可以說我有200個驗證實例。由於我不更新權重，我將計算每個實例的錯誤。那麼我們應該對所有驗證實例進行平均，並報告驗證錯誤？

謝謝， Atish

Answer 1

是的，最常用的誤差量度是mean squared error，其爲每一個訓練/驗證樣本的平方誤差的平均值。

Answer 2

是的，你必須找出驗證集上的錯誤增加而不是減少的點。