是反向傳播算法獨立算法

-3

是不是反向傳播算法獨立算法，還是我們需要任何其他算法，如貝葉斯一起用於神經網絡學習？我們是否需要任何概率方法來實現反向傳播算法？是反向傳播算法獨立算法

2016-06-15 rozi

是獨立方法 – janisz

請您詳細說明您準確解決了什麼問題？ –

其實我只是實施神經網絡訓練的後向傳播算法;學習，但我知道我需要其他算法以及反向傳播，用於像貝葉斯或k-Means一樣的後向傳播學習.........我的項目是用於預測糖尿病的專家系統......是否有必要實施其他算法以及反向傳播或反向傳播是否足夠？ – rozi

反向傳播只是計算圖中梯度的有效方式。就這樣。你不必使用它（雖然沒有它的梯度計算是非常昂貴的），你用它做什麼取決於你 - 有使用梯度的方法。最常見的一種是使用它來運行一階優化技術（如SGD，RMSProp或Adam）。因此，爲了解決您的問題 - 當且僅當您的任務是計算漸變時，反向傳播已經足夠了。爲了學習神經網絡，你至少需要多一塊 - 一個實際的學習算法（如SGD，這實際上是一行代碼）。很難說如何從其他方法「獨立」，正如我所說的 - 漸變可以在任何地方使用。

來源

2016-06-19 18:06:42 lejlot

我在這裏感到困惑.........是不是調整漸變是調整重量和調整重量是學習？ – rozi

反向傳播**不是**調整權重。反向傳播只能用於計算梯度，而不能應用**。如果你正在調整權重，這意味着你已經使用了一些頂級的學習方案，可能是SGD（如果你只是以new_w_i - = learning_rate * gradient_i的形式更新權重;反向傳播因此只能計算「gradient_i」） – lejlot

因此，增量規則和反向傳播是兩個不同的實體？ – rozi

是反向傳播算法獨立算法

回答

相關問題