2017-07-25 107 views
-1

我想知道,如果我用CNN訓練模型(例如Alexnet)進行人臉識別(可能是另一個任務分類),我應該使用我訓練過的人臉識別來初始化一個新任務分類?卷積神經網絡中的初始權

回答

0

如果你的新任務是第一個任務的專門化,那麼如果你在第一個任務中有更多的數據可用,那麼使用未完全收斂的CNN的權重作爲初始化可能是一個好主意。

如果新任務與第一個任務無關,那麼只有第一層的權重是第一層的權重,所以它不會非常有用,因爲這些層不難訓練。

無論如何,完全收斂的網絡的權重通常會更難以訓練用於新任務,對於不同的任務,使用像正交矩陣,xavier的init等等的良好隨機初始化幾乎總是會更好...