卷積神經網絡中權重和輸出的值

Question

我想知道在卷積神經網絡中權值和輸入值的範圍是多少。我的理解如下：

如果輸入是灰度圖像，第一層的輸入值將是0-255。但在隨後的層中，由於sigmoid函數的原因，輸入值的範圍從0到1。

但是權重的範圍是什麼？它是0-1還是可以更高？這是否有很大的不同？

Answer 1

由於它使用的是S形函數，權重通常範圍從-∞到+∞，因爲-∞的S形接近0，而+∞的S形接近1，所以您需要能夠接近0和接近1的值作爲你的神經元的輸出。

是的，重量可以有很大的不同。 您訓練NN越多，權重越接近「需要」的值。

例如，如果神經元需要輸出0，理想值爲-∞，因爲sigmoid（-∞）= 0。訓練它越多，權重就越接近-∞。