floating-point

1熱度

4回答

爲什麼我在ECMAScript/ActionScript 3中看到不精確的浮點結果？

嘿，所有，讓我們直接跳到代碼示例，以顯示ECMAScript/JavaScript/AS3如何不能做簡單的數學計算（AS3爲Number類使用'IEEE-754雙精度浮點數'與JavaScript中使用的相同）... trace(1.1); //'1.1': Ok, fine, looks good. trace(1.1*100); //'110.00000000000001': What

13熱度

7回答

PHP浮點運算2小數點

有了另一個數學計算問題。 $a = 34.56 $b = 34.55 $a做一些計算得到這個數字 $b是做四捨五入最接近的0.05得到這個數字發生什麼事是 $c = $b - $a 按說我應該是-0.01，但我回聲出$c是顯示-0.00988888888888 我嘗試使用正umber_format($c, 2)，但輸出爲0.00，我怎麼能保證$a和$b正好是2位小數，在後面沒有隱藏

2熱度

3回答

爲什麼浮點數只有在整數時纔會拖尾？

仔細閱讀這個問題，因爲我是不要求如何擺脫尾隨零，這很容易。我在問的是爲什麼123d變成「123.0」？ IEEE 64位浮點數可以完全表示從0到2^52的整數，所以這不是精度上的損失，而是Double.toString（）的實現過程中的決定。我的問題是他們爲什麼做這個決定，他們這樣做？他們爲什麼不打印123？

23熱度

7回答

奇怪的問題比較目標中的浮動C

在算法中的某個點，我需要比較一個類的屬性的浮動值與浮動。所以我這樣做： if (self.scroller.currentValue <= 0.1) { } 其中currentValue是一個浮點屬性。然而，當我有平等和self.scroller.currentValue = 0.1 if語句不滿足，代碼不執行！我發現我可以通過投0.1來解決這個問題。像這樣： if (self.scrol

47熱度

3回答

雙vs浮在iPhone上

我剛剛聽說iPhone不能做雙本機，從而使它們慢得多，正常浮動。這是真的嗎？證據？我對這個問題很感興趣，因爲我的程序需要高精度的計算，而且我將不得不在速度上妥協。

5熱度

3回答

Python類具有給定整數仿真

是下面的例子： class Foo(object): def __init__(self, value=0): self.value=value def __int__(self): return self.value 我希望有一類富，其作爲一個整數（或浮動）。所以，我想要做以下的事情： f=Foo(3) print int(f)+5 # is

20熱度

5回答

Java中float和double的包含範圍是什麼？

Java中float和double的包含範圍是什麼？爲什麼不建議float或double用於精度要求嚴格的任何事情？

5熱度

2回答

爲什麼Perl的sprintf不能正確地舍入浮點數？

我一直在尋找Perl內置函數sprintf使用的舍入約定。我想，它正常的四捨五入（如ROUND_HALF_UP在Java's rounding mode convention），但挖進一步證明這是錯誤的： > /usr/local/bin/perl5.10.1 -e 'print(sprintf("%.2f", shift @ARGV)."\n");' 0.335 0.34 > /usr/l

0熱度

2回答

從字符串讀取浮點值高達6精度

我必須從字符串讀取一個浮點值最多6精度，當前代碼只讀取前6位數字。在此先感謝 template <class T> bool from_string(T& t, const std::string& s, std::ios_base& (*f)(std::ios_base&)) { std::istringstream iss(s); return !(is

0熱度

5回答

什麼是1 /（2^x）的最小精確表示，可以用C語言表示？