2016-12-12 85 views
1

在卷積網絡(CNN)中,有人回答我說,濾波器是隨機初始化的。卷積網絡中學到的東西

對此我確定,但是,當梯度下降時,誰在學習?功能地圖或過濾器? 我的直覺是濾鏡正在學習,因爲他們需要識別複雜的東西。 但我想確定這一點。

+0

你的網絡由不同的內核組成。其中每個參數都有參數w和b。 GD應用計算這些參數中的移位值以減少錯誤。 – Feras

+1

特徵映射是將濾波器/內核應用到輸入(圖像/特徵映射)時的輸出,因此無法學習。只有用於將輸入轉換爲輸出的參數(過濾器)可以學習。 – aleju

+0

您可能想閱讀[我的碩士論文]的第3-10頁(https://arxiv.org/pdf/1707.09725.pdf#page=17)。特別是圖6. –

回答

2

在卷積神經網絡中,kernel = filter = feature detector。

這是從Stanford's deep learning tutorial(也很好地解釋了Denny Britz)很好的例證。

enter image description here

該過濾器是黃色滑動窗口,其值是:

enter image description here

特徵地圖是粉紅色的矩陣。它的值取決於濾鏡和圖像:因此,學習特徵圖是沒有意義的。訓練網絡時只學習過濾器。該網絡也可以有其他權重來訓練。

+0

非常感謝您的解釋! 現在對我有意義! :) 最後一個問題,當我們有一個conv層的輸出時,讓我們說3個特徵圖。我們用3個內核在其旁邊放置了一個其他的conv層。 輸出將會是3或9個功能圖嗎? 更準確地說,第一層的3個特徵地圖將以某種方式連接起來,以便由下一個conv層處理,或者第一層的所有特徵地圖會像3個新圖像一樣發送到下一個轉場? –

+0

哦,爲什麼在第一層上,濾鏡比上一個更容易提取通用特徵? –

1

正如alelle所說,過濾器權重是學習到的。特徵映射是卷積層的輸出。除了卷積濾波器權重之外,還有完全連接(和其他類型)層的權重。