2010-02-26 90 views
0

我剛開始使用MPFR任意精度庫,很快就會遇到非常奇怪的行爲。使用它的主要目標是提高滯後參數觸發的精度,這在MPFR中非常有用。MPFR舍入問題

但後來我決定檢查一下簡單的數學,它是無法解釋的 - 即使在嚴格的答案的簡單例子中存在四捨五入錯誤,並不取決於使用的精度。

即使在像1.1 * 1這樣的例子中,結果是1.10000000000000008881784 ... 而這個結果以瘋狂的2000位精度給出(53是正常的雙精度值)!

也許這是我的系統的問題,但即使在線MPFR也存在類似的問題。你可以在網上嘗試這樣一個例子:http://ex-cs.sist.ac.jp/~tkouya/try_mpfr.html

1×1.1 @ 64位= 1.10000000000000000002

但是網絡版本的精度增加,但在我安裝的進一步移動的錯誤 - 沒有。

我的系統:Ubuntu的9.10 + GMP 5.0.0.1 + 2.4.2 MPFR

回答