數值微分中的「h」是什麼？

Question

我想知道數值微分公式中的h是什麼，以及當我有函數時如何計算它。

我說到這個公式：

f'(x0) = (f(x0 + h) - f(x0))/h 
f'(x0) = (f(x0) - f(x0 - h))/h 
f'(x0) = (f(x0 + h) - f(x0 - h))/2*h 

我真的很感激任何形式的幫助！

Answer 1

在這樣的公式中h通常是一個「非常小的數字」，類似於微積分中的epsilon。

例如，在f的a衍生物被定義爲：

注h是如何定義爲接近0。

---

編程時，例如doing numerical gradient computation，它通常用於將h設置爲非常小的值 - 許多編程環境具有「epsilon」數量;缺乏這一點，你可以使用一個非常小的浮點數。

Answer 2

使用通常的8字節浮點數，h的敏感值分別爲1e-8（第一個和第二個公式）和1e-5（第三個中心差商）。這對於中等值x有效，對於更大的x，則必須以某種方式包括x的比例。

通常，用於錯誤順序p一個k階差商，達到用於h約pow(2e-16, 1.0/(p+k))浮點噪聲和數值誤差之間的平衡。