floating-point

0熱度

5回答

令人困惑的類型轉換 - 2字節雙倍

我最近被要求接管一個項目，在該項目中，波形數據從電源轉換器採樣併發送到智能代理，計算完成後根據結果採取適當的操作。 以下（Java）的片段是用什麼先前編碼的字節數組轉換成double數組： LSB = (0XFF & (int)ipPacket[index]); double temp = LSB/256.0; MSB = (byte)(0XFF & (byte)ipP

java floating-point double byte type-conversion 2009-10-08

---

0熱度

3回答

double/float的jQuery輸入驗證

什麼是最好的方法來屏蔽一個輸入字段只允許float/double，沒有任何jquery插件。 NOTE：事實上我在做這樣的： $("#defaultvalue").bind("keypress", function(e) { if (e.which != 8 && e.which != 0 && (e.which < 48 || e.which > 57)) {

jquery validation input floating-point double 2009-10-09

---

1熱度

1回答

如何處理tcl中的大整數（64位）數字？

什麼是在expr命令中處理大整數的最好方法。我們在expr中知道很多。

floating-point tcl 2009-10-09

---

5熱度

4回答

小數的第N個根返回C＃中的意外結果

當我嘗試使用C＃取出一個小數的第N個根時，我得到一個錯誤的數字。 例如，當我嘗試取1.07的第三個根時，我得到1，這顯然不正確。 這裏是我用來得到第三根的確切代碼。 MessageBox.Show(Math.Pow(1.07,(1/3)).toString()); 我該如何解決這個問題？ 我想這是一個浮點算術問題，但我不知道如何處理它。

c# .net math floating-point 2009-10-10

---

5熱度

6回答

是否有與frexp相當的Java？

是否存在稱爲frexp的C/C++函數的Java等價物？如果你不熟悉，frexp是defined by Wikipedia「將浮點數分解爲尾數和指數。」 我正在尋找速度和精度的實施，但我寧願有準確性，如果我只能選擇一個。 這是第一次參考的代碼示例。它應使frexp合同更加清楚一點： /* frexp example */ #include <stdio.h> #include <math.h>

java c++ c floating-point math.h 2009-10-12

---

1熱度

2回答

在C＃中調用Double＆Float方法參數時執行的代碼＃

下面是一小段代碼，當它調用它輸出'double'時。爲什麼？這背後的理由是什麼？爲什麼不打印'浮動'？ class source { static void Main() { Receiver r = new Receiver(); r.Method1(1.1); } } class Receiver { publi

c# parameters floating-point double 2009-10-12

---

0熱度

2回答

高效的功能，浮點/雙精度轉換爲字符串

現在，我所知道的唯一功能是_snprintf_s像下面 double dMyValue = <some value>; _snprintf_s(pszMyBuffer, sizeof(pszMyBuffer), 12, "%.10f", dMyValue);

c string performance floating-point 2009-10-12

---

27熱度

2回答

哈斯克爾：強制浮有兩位小數

使用下面的代碼片段： (fromIntegral 100)/10.00 使用哈斯克爾'98標準的前奏，我怎麼代表與兩位小數的結果呢？ 謝謝。

haskell floating-point precision 2009-10-13

---

27熱度

6回答

將十六進制轉換爲浮點數

如何將以下十六進制字符串轉換爲Python中的浮點數（單精度32位）？ "41973333" -> 1.88999996185302734375E1 "41995C29" -> 1.91700000762939453125E1 "470FC614" -> 3.6806078125E4

python binary floating-point hex decimal 2009-10-20

---

3熱度

4回答

爲什麼簡單的浮點算術運算會返回VB.Net和Python中意外（不準確）的結果？

x = 4.2 - 0.1 vb.net給4.1000000000000005 蟒蛇給4.1000000000000005 Excel中給出了4.1 Google calc給4.1 這是什麼情況的原因是什麼？

python vb.net floating-point 2009-10-20

---