功能的順序影響神經網絡的結果

Question

那麼， 真的很困惑。

我有一個簡單的功能順序，即所有的字母和幾個符號，計算一個字符串中包含多少次。

我的結果選擇如下

numberOf_a 
numberOf_b 
... 
numberOf_Z 
numberOf_. 
numberOf_, 

我有65個值的測試樣品，和MLP可以得到46正確。

現在，如果我以隨機順序排列特徵的順序，訓練相同的數據，評估相同的值，我會得到不同數量的正確預測，例如， 49.

結果是一致的（相同的順序會產生相同的準確度），但準確度隨隨機順序而變化。

問題是，這是否應該發生？我不明白這是如何得到這個理論的支持的。我在這裏錯過了很大的東西？

PS。我正在使用WEKA的MLP實現

Answer 1

我並不熟悉MLP的WEKA實現，但似乎並不像神經網絡算法應該發生的那樣。

它幾乎好像陷入了某種本地最低限度。該算法可能每次都以相同的方式初始化單個神經元的權重。根據初始參數的順序，改變參數順序可能會導致算法每次都對某個參數順序達到相同的答案。 「局部最小值」可能僅由每次只經歷一定次數的迭代的算法確定。