precision

2熱度

1回答

考慮以下浮動： 8.22120183514065e-05 現在很明顯(s)printf是在這裏做標準的事情，但%f改變它的精度： printf "%f", 8.22120183514065e-05; # 0.000082 使用任意大的精度，說%.30f，增加了額外的數字（...6505）： printf "%.30f", 8.22120183514065e-05; # 0.00008221

0熱度

1回答

HTML輸入類型谷歌瀏覽器和Internet Explorer中的屬性圓形屬性

我嘗試在html輸入中使用圓形屬性。我用下面的代碼解釋： <html> <head> </head> <body> <input type='number' step='0.001' id="stepInput" placeholder='0.00' /> </body> </html> 但是，此屬性只能在Mozilla Firefox瀏覽器中運行。它無法在Google Chrom

5熱度

2回答

Typecasting std :: complex <double> to __complex128

我正在嘗試在GCC中使用quadmath庫。我有一個複雜的雙精度值，我想要輸入相應的四精度複數，__complex128。以下是最小的（非）木材加工例如： #include <quadmath.h> #include <complex> #include <stdio.h> using namespace std::complex_literals; int main(){ s

5熱度

3回答

將f64四捨五入到Rust中的最接近的i64

Rust的f64類型提供函數round()，該函數四捨五入到最接近的整數，但它返回f64。另一方面，Java的Math.round(double)返回long。我可以撥打round()，然後投到i64，但是這會保證我得到正確的結果嗎？在這裏，「正確」意味着獲得最近的i64 - Java的round()返回「最接近的長度」。

1熱度

2回答

發現的2 ^（1/3）連分數非常高的精度

在這裏，我將使用符號有可能通過計算它，然後找到一個數的連分數應用的定義，但至少需要O（n）位的內存找到一個 ...一個 n，實際上它是一個更糟糕的。使用雙浮點精度，只能找到一個，一個 ... a 。一種替代方案是使用，如果一個，b，c是有理數則存在這樣的事實獨特有理數P，Q，R，使得1 /（A + B * 2 1/3 + C * 2 2/3）= X + Y * 2 1/3 + Z * 2 2/

0熱度

1回答

在JavaScript中有一個大整數加法的問題

我只是做一個非常簡單的程序來將二進制數轉換爲十進制數，反之亦然。在做十進制到二進制轉換時，我意識到當我嘗試向一個非常大的數字添加一個小數字時，我正在運行一個奇怪的錯誤。例如，我會給我的程序輸入220002作爲一個小數，它會將該數字轉換爲二進制數字110101101101100020.在調試時，我最終意識到它做了110101101101100000 + 10，結果是11010110110110002

1熱度

2回答

在逗號後設置浮點數在php中的15個數字

Servus，我在PHP中使用浮點數的問題。我的號碼是 $cosVQ = 0.907424504992097 但是當我做一些數學運算$cosVQ，我會收到JavaScript和PHP不同的結果。或者，例如，我做我的回聲我將只收到0.9074245049920。我究竟做錯了什麼？

0熱度

2回答

轉換條款值，而不會丟失精度（分數）

我有蟒蛇pet_cycleind_symmNM(n, m)一個函數時呼籲pet_cycleind_symmNM(5, 5)返回一個「術語列表」 [[Fraction(1, 14400), [[1, 25]]], [Fraction(1, 720), [[2, 5], [1, 15]]], [Fraction(1, 360), [[3, 5], [1, 10]]], [Fraction(1, 480

-3熱度

1回答

C中有12位小數乘以多少？

我想在C中精度爲12位小數。我不知道是否有更簡單的解決方案。但至少該代碼有效。現在，我只是試圖將結果保存爲「長雙」，但「strtold（）」不工作 char* multiply12Decimals(float n1, float n2) { long n1Digits; sscanf(doubleToVoidPointerInNewMemoryLocation(n1*1000

-1熱度

1回答

浮點精度格式

我有一個浮點變量，它的值是2.3456533424。我想要使用像2.34或2.345那樣的變量。我如何更改浮點數精度？我想對此更改使用不同的數字操作。我不想使用像字符串。