floating-point

0熱度

2回答

我有二進制C/C++數據類型（例如在C浮點的內存版本中），我需要讀入Actionscript 3，並且不希望從頭編碼。任何人都知道任何庫，示例代碼，僞代碼來幫助這個？例如： C/C++應用程式： float f = 1.1; SaveFloatToFile(f, 'myfile.bin'); ActionScript 3的應用： var ba:ByteArray = ReadFromFi

0熱度

1回答

Actionscript中的浮點數值表示？

是否可以在Actionscript中獲取浮點（IEEE-754）數字對象的原始字節？或者，如果我可以得到符號（1位），尾數（52位）和指數（11位），那麼我可以自己做位移，並構建原始字節數組。我想創建精確的，緊湊的字符串表示的數值（十六進制，base-36，base-64等）對於某些序列化情況。我也可能有興趣構造緊湊的16位浮點數（IEEE半精度）並將它們打包成密集的字節數組。例如，在Jav

1熱度

5回答

在紅寶石，爲什麼「100.7」 .to_f.modulo（1）= 0.700000000000003？

這是很奇怪的對我說： irb(main):012:0> "100.7".to_f.modulo(1) => 0.700000000000003 爲什麼3月末？ irb(main):019:0> "10.7".to_f.modulo(1) => 0.699999999999999 同樣的事情在這裏...我們只得到這個值的其餘部分除以一。它應該是確切的。

21熱度

7回答

在MySQL

我試圖做基於標識符和價格表，如SELECT匹配選擇浮動： SELECT * FROM `table` WHERE `ident`='ident23' AND `price`='101.31'; 以上返回零行，而如果去掉price='101.31'位它返回正確的行。做一個... SELECT * FROM `table`; 返回同一行的上方和相當明確指出price='101.31'。然

9熱度

4回答

防止Java中的String.format（「％。2f」，doubleValue）四舍五人

如何防止String.format("%.2f", doubleValue);四捨五入（舍入一半算法）而不是截斷它？例如 doubleValue = 123.459 格式化後， doubleValue = 123.46 我只想放棄最後一位， 123.45 我知道還有其他方法可以做到這一點，我只是想知道，如果這可以使用String.format。

2熱度

1回答

SQL Server四捨五入或截斷嗎？

假設我將一個64位浮點數double插入DECIMAL（17,5）字段。值是否被舍入或截斷？

0熱度

2回答

Rspec的「要改變」浮點

是否有可能需要Rspec .should(change(...)).by(...)與浮點數和這樣設置比較精確： lambda { ...}.should change(unit, :price).by(12.151, 10e-5) 感謝，

60熱度

3回答

浮動轉換爲一個字符串，而不捨入它

我正在做一個程序，由於不需要解釋的原因，需要一個浮點數轉換成一個字符串來計算len（）。但是，str（float（x））導致x在被轉換爲一個字符串時被四捨五入，從而拋出整個事情。有誰知道它的修復？這裏，如果你想知道所使用的代碼： len(str(float(x)/3))

1熱度

3回答

使用日期時間浮點數表示作爲主鍵

根據我的經驗，我已經瞭解到，使用代理INT數據類型列作爲主鍵esp。與使用GUID或char/varchar數據類型列作爲主鍵相比，IDENTITY鍵列提供更好的性能。儘可能地嘗試使用IDENTITY鍵作爲主鍵。但是最近我遇到了一個模式，在這個模式中表是水平分區的，並且通過分區視圖進行管理。所以這些表不能有一個IDENTITY列，因爲這會使分區視圖不可更新。其中一個解決方法是創建一個帶有標識列的

2熱度

2回答

在python中訪問基類的原始類型

我想從python原始類型的浮點數中派生出一個類，用於打印出不同的repr字符串。當我這樣做時，如何從派生類訪問基礎數據？這裏是什麼，我試圖做一個簡單的例子： class efloat(float): def __repr__(self): return "here's my number: %s" % str(WHAT CAN I PUT HERE???) 好的，謝