2012-11-26 29 views
1

我正在爲一個類項目實現一個神經網絡,我只是想知道是否可以使用神經網絡進行多類分類而不使用softmax?當我向TA詢問這個問題時,他說有多個輸出層並不是數學上的聲音,但是後來我看到Andrew Ng在他的UFLDL自動編碼器教程中包含了一個帶有多個輸出的神經網絡圖片,然後我看到很多的人談論神經網絡的多類分類而不提及softmax。所以我想我想知道的是,不使用softmax使用多輸出層是否合適,如果是的話,你會怎麼做,以及如何解釋結果。您可以在不使用softmax的情況下在神經網絡中使用多個輸出層嗎?

UFLDL鏈接:http://ufldl.stanford.edu/wiki/index.php/UFLDL_Tutorial

回答

-1

我並不十分熟悉的深度學習。當你說多個圖層時,你的意思是多個輸出節點嗎?

典型的方法是將所有輸出節點放在同一層(除非你正在做某種循環神經網絡)。您可以在輸出上使用softmax,但它當然沒有必要。 Softmax 可能使學習更好一點。

但是,您可以通過爲每個輸出神經元分配一個類,然後根據哪個神經元的激活值最高來執行分類。

1

比較晚,但也許有人會發現它有用:

您不必使用SOFTMAX層。例如,您可以使用多個邏輯迴歸圖層或具有多個邏輯迴歸輸出的單個圖層。不同之處在於softmax表示最有可能的類別,而多邏輯迴歸輸出可以同時將數據點分配給多個類別。

另一種方法是對神經網絡輸出值(即特徵)使用任意分類器(SVM,隨機森林,增強)。

我最近忘了在卷積神經網絡上放一個softmax層,我用完全連接(內積)層作爲輸出,結果也相當好!

相關問題