0
我正在用GMP和它的任意精度浮點數寫C庫。我需要砍掉「小數目」,但我不知道如何確定小數目。給定精度的gmp浮點數下限
說我把GMP浮點數(mpf_t)的精度設置爲n位。那麼在計算中什麼被認爲是小的?
對於任何你可能熟悉GSL(GNU科學圖書館)的人,我需要相當於他們的GSL_DBL_EPSILON,它在我的32位計算機上是雙倍的,它最好是2.2204460492503131e-16。
在此先感謝,j。
我正在用GMP和它的任意精度浮點數寫C庫。我需要砍掉「小數目」,但我不知道如何確定小數目。給定精度的gmp浮點數下限
說我把GMP浮點數(mpf_t)的精度設置爲n位。那麼在計算中什麼被認爲是小的?
對於任何你可能熟悉GSL(GNU科學圖書館)的人,我需要相當於他們的GSL_DBL_EPSILON,它在我的32位計算機上是雙倍的,它最好是2.2204460492503131e-16。
在此先感謝,j。
我想我找到了神奇的數字:它是2^{ - (有效位精度的位)} ,詳見on this Wikipedia article。