2

由於關於圖片:delta在梯度下降算法中意味着什麼?

enter image description here

有人能幫助我瞭解在梯度下降算法到底是什麼意思三角洲?

+0

如果我的直覺是正確的,那麼你可以向梯度方向邁出一小步。梯度是一個向量,包括所有的偏導數,並在該函數的增長最...之類的... –

+0

你應該試圖瞭解梯度下降算法之前刷新多元微積分基礎的,作爲方向點這個(偏導數)是一個非常基本的運算符。 –

+0

是的,我應該。感謝您的信息。 – Cadilac

回答

2

關於theta 0,術語是derivative

  • 馬克theta上X軸作爲座標(讓它成爲A)
  • 查找對應的座標上的Y軸(讓它成爲B)這樣的點所屬的函數J
  • 畫出切線(A,B)
  • 該導數是該切線的斜率。

enter image description here

的衍生物用於控制成本函數(j功能)最小化的兩個方面:

  • 方向 - 斜率的符號告訴你在哪個方向應沿着移動X軸爲了收斂J
  • 速率 - 斜率的大小告訴你應該多快移動
+1

謝謝你的解釋。我會嘗試在我的腦海中建立這種知識。 「theta」的 – Cadilac

+1

,或「與theta_0相關」? – EOL

+0

@EOL好點,我糾正了措辭。謝謝! – mloskot

4

這是關於theta_0的偏導數。

+0

謝謝你。我會接收這些信息並開始計算數學。 – Cadilac