我一直無法在維基百科(或SO)上找到答案,或者在這個非常簡單的問題的文檔中找到答案。什麼是精度?
浮點數的精度如何用整數表示?
我在C++
的任意精度浮點庫MPFR
上使用封裝器MPFRC++
。有設置默認精度的選項,它需要一個整數作爲參數。
這樣的整數是什麼意思?
例如:set_default_prec(128)
。
此外,我檢查sizeof
各種默認精度,但他們似乎總是相同的?爲什麼?
例如爲:
set_default_prec(128); sizeof(mpfr :: mpreal); // 16
set_default_prec(4096); sizeof(mpfr :: mpreal); //仍然是16 ...
但這正是我試圖解決這個問題的不一致性。維基百科說「精確度」=有效數字中的位數。但MPFR表示「精度」=有效位數BITS的數量。這些不同。 – cmo 2012-04-25 12:12:03