7
所有或幾乎所有使用退出的論文都將其用於監督式學習。它似乎可以很容易地用來調整深度自動編碼器,RBM和DBN。那麼,爲什麼不在無監督學習中使用輟學?爲什麼DropOut不用於無監督學習?
所有或幾乎所有使用退出的論文都將其用於監督式學習。它似乎可以很容易地用來調整深度自動編碼器,RBM和DBN。那麼,爲什麼不在無監督學習中使用輟學?爲什麼DropOut不用於無監督學習?
丟失用於無監督學習。例如:
雙飛寨,中飛章:矩陣分解和自動編碼器的壓差培訓在稀疏圖鏈接預測(arxiv,2015年12月14日)
看降噪自動編碼器,添加隨機噪聲相似退學。 –
是的,這是完全一樣的想法。他們隨機選擇輸入並將它們設置爲0.請參閱:http://deeplearning.net/tutorial/dA.html – alfa
我有同樣的問題。我認爲去噪AE只在輸入層應用丟失。我的問題是爲什麼不將隱藏應用於隱藏層以防止過度配合? –