2017-03-07 38 views
2

說你想給一個5€折扣,費用60€產品。逗號後面的幾個地方做一個需要得到正確的圓棒

這等於0.08333折扣...或8.333 ...%

當向後計算,我會計算:

  • 輪(60 * 0.083333,2)= 5,00
  • 輪(60 * 0.08333,2)= 5,00
  • 輪(60 * 0.0833,2)= 5,00
  • 輪(60 * 0.083,2)= 4.98

問:需要多少地方纔能得到準確的數字(對於monteary交易),且在任何基準價格上都有任何折扣?

或在實用性方面,在MySQL表中存儲的折扣時,我應該十進制(X,Y)類型參數是什麼呢?

回答

0

您將需要累積誤差小於1/2分或0.005。中間結果的相對準確度需要反映這一點。如果計算中包含的價格都低於10^k = 10^(k+2)分,則這需要所有中間數字中的相對準確性爲0.5*10^(-k-2)或至少k+3有效數字。

注意,錯誤在計算的每一步積累,在第一順序相加,以使得當計算具有多個步驟,計算的相對精度需要調整向下RESP。對於s步驟,有效位數增加log10(s)

在你的榜樣,k=22步驟,圓潤的效果,使中間結果至少應該有5顯著位數一定要得到正確的結果。

相關問題