比較兩個神經網絡（Matlab中的nntool）

Question

我是Matlab中的神經網絡工具箱（nntool）的新手。我已經使用相同的數據集訓練了兩個網絡。其中一個網絡包含更多數量的神經元作爲另一個網絡。

現在我想知道：我該如何比較這些網絡？我怎麼能說網絡A比網絡B好？

這是關於我的測試集中正確分類模式的數量嗎？假設兩個網絡都顯示相同的測試集，並且網絡A正確地分類了更多模式。我能說網絡A（通常）比網絡B好嗎？

或者我還應該根據自己的表現功能來看性能嗎？

是否有任何其他措施比較用不同參數訓練的兩個網絡？

Answer 1

這主要取決於您的擔心。正如我所看到的，在大多數情況下，分析預測的標籤或網絡的準確性可以產生良好的取貨決策，尤其是當您的網絡具有淺層架構時，但是有一些側重問題可能在您決定看到眼睛更寬的網。

• 例如，在訓練階段，加入甚至一個隱藏單元向所述第一隱藏層與插入d（輸入層的尺寸）自由參數（權重）到模型應估計出現。另一方面，您的模型具有更多的免費參數，需要更多的培訓數據才能提供可靠的模型。因此，只要您有足夠的數據來補償增加的自由參數，就可以接受更大的網絡。作爲經驗法則，插入更多的自由參數會增加過度擬合的機會，這是深度神經網絡中的一個重要問題，並且已經做出許多努力來解決它。
• 淺層網絡中不太重要的另一種情況是額外隱藏節點施加的計算成本。既然我們正在睜大眼睛，提到這個問題是有必要的。在您的網絡更深入的情況下，這種計算成本變得更具挑戰性。在使用反向傳播更新參數時，訓練階段的計算成本也是一個重要問題。
• 您可能主要在深度神經網絡中看到的另一件事是內存需求。隨着層數或神經元數量的增加，自由參數的數量急劇增加，因此在深度網絡中，您可能會看到數百萬個參數。很明顯，加載這一數量的參數要求有足夠的硬件要求。

希望它有幫助。