dropout和data.split in model.fit

Question

正如我們所知，dropout是一種幫助控制過度擬合的機制。在Keras的培訓過程中，我們可以通過監測驗證損失進行在線交叉驗證，並將設置數據拆分爲model.fit。

通常，我是否需要使用這兩種機制？或者如果我在model.fit中設置數據拆分，那麼我不需要使用丟失。

Answer 1

丟失是一種正則化技術，即它可以防止網絡過快地過度填充數據。驗證損失只是讓您瞭解網絡過度配備的時間。這是兩件完全不同的事情，當你的模型過度配合時，驗證丟失並不能幫助你，它只是告訴你它是。

我會說驗證損失是培訓期間的寶貴信息，你絕對不應該沒有它。無論您是否需要正規化技術，如噪音，丟失或批量標準化，都取決於您的網絡學習方式。如果你看到它過度適應，那麼你應該嘗試使用正則化技術。