precision

5熱度

5回答

如何使用「％F」來填充雙值轉換成字符串以正確的精度

我試圖用sprintf這樣來填充雙值的字符串： sprintf(S, "%f", val); 但精度被切斷到小數點後六位。我需要大約10位小數的精度。 這怎麼能實現？

c floating-point precision printf 2008-09-16

---

18熱度

5回答

Lua的標準（或最佳支持）大數字（任意精度）庫是什麼？

我與我已經不能四捨五入大量工作。使用Lua的標準數學庫，似乎沒有方便的方法來保持精度超過一定的內部限制。我也看到有一些可裝載大數字工作的幾個庫： http://oss.digirati.com.br/luabignum/ http://www.tc.umn.edu/~ringx004/mapm-main.html http://lua-users.org/lists/lua-l/2002-02/m

math lua precision bignum 2008-11-13

---

2熱度

6回答

Delphi通過writeln/readln實現的精度

我的客戶端應用程序通過使用writeln和readln的文本文件輸出和輸入相當多的real類型變量。我試着寫增加字段的寬度，使代碼看起來像：再次進出口 writeln(file, exportRealvalue:30); //using excess width of field .... readln(file, importRealvalue); 當我導出，然後和比較的文件，我得到的最

delphi floating-point text-files precision 2008-09-29

---