2012-06-13 42 views
1

四捨五入了一些我知道的是,「\ P X [」命令將所有的計算精度,但我正在尋找的東西有點不同。給定一個高精度計算的數字,我想將它舍入到我的代碼的一部分的較低精度。這是因爲複數的絕對值往往會造成一些舍入誤差,從而導致以後出現問題。我希望這些絕對值是相同的,並且沒有現在的微小錯誤。在PARI/GP

換句話說,我怎樣才能使1.xxxxxxxxxxxxxx - > 1.xxxxxxx爲一個特定的數字?

回答

2

最簡單的解決方案是

z * precision(1., 100) 

截斷的z分量的100位的相對精度。對於 打印目的,您還可以使用具有標準含義的printf("%m.nf", z)