floating-point-precision

1熱度

1回答

我使用Java創建了一個地圖編輯器。問題是，我對每個字節值都有步驟，所以地圖不平滑。是否可以將BufferedImage柵格數據更改爲浮點數據並在其上繪製浮點精度？

0熱度

1回答

問題：在使用像PLSA機器學習算法的巨大浮點值被服用大量的時間我們的問題是。現在，我們如何才能將浮點精度降低到小數點後兩位並進行數學運算？我們有什麼：用以下命令numpy的初始化np.zeros（[2,4,3]，np.float） ndarray: [[[ 0.09997559 0. 0.89990234] [ 0. 0. 0. ] [ 0. 0.

1熱度

2回答

浮點值的字符串數組可以正確地對負數進行排序，但使用sprintf，kernel.format等可以正確排序相同的值

爲什麼可以正確排序string.to_float值的數組，但是當'％ .3f'％string.to_float或者包括sprintf，Kernel.format在內的任何變體都可以使用？我該如何解決這個問題？我目前的工作，讓你包含寫滿數字行的文本文件（例）是一個挑戰： 1.123 -3.010 3.999 -2.199 -1.212 2.190 4.121 0.000 我的目標是對這些數字進行

2熱度

3回答

機器epsilon與最少正數

浮點數表示中機器epsilon和最少正數之間的區別是什麼？如果我嘗試顯示在若干行中的浮點數。是確切0和第一正之間（數其浮點可表示）和兩個連續的數字之間的間隙的間隙，不同？哪一個比較小？以及這兩個值取決於哪個因素（mantisa或exponent）？

1熱度

1回答

CSS：0.1em === WTF，浮點不準確？

http://jsfiddle.net/7yda75v0/8/ 如果我打開小提琴在我的Mac書空氣在最新的Chrome（38.0.2125.104）高度爲，在Safari（7.0.3（9537.75.14））這是，在Firefox（32.0.3）。我的同事在幾乎相同的機器上有（我的Mac有1.7Ghz，他的2.0Ghz）。 Mac書pro設備也有不同的價值。它看起來像一個浮點不準確，但爲什麼？

4熱度

1回答

用C查找下一個IEEE 754可表示的數字（朝-INF）？

我正在嘗試編寫一個函數，該函數需要一個32位浮點數（已從32位二進制字符串轉換而來）並返回以32位二進制形式表示的前一個浮點數。到目前爲止，我已經從二進制轉換爲浮點，但是我有麻煩了解如何找到下一個可表示的IEEE 754值。你不能只減去可能的最小可表示值（000 0000 0000 0000 0000 0001）嗎？另外，在找到最接近的可表示的二進制值之前，從IEEE 754轉換爲浮點的好處是什麼

3熱度

2回答

測試計算幾何中的雙精度數相等的一般策略

所以這似乎是一個重複出現的問題，我試圖實現線段交叉和雙連接邊列表覆蓋算法計算幾何 de Berg等人現在，我使用下面的函數來測試兩個值相等： private static final double absTol = 1e-14; private static final double relTol = 1e-10; public static final boolean areClose(

2熱度

2回答

PHP立方根

的可靠計算這似乎是沒有道理的，但我無法得到這個解決：我想計算基於給定的經驗值（EXP）的水平。因此，我使用多維數據集根公式並向下舍入到下一個整數。當exp正好達到level^3時，達到下一個級別。級別的數量是無限的，所以我會避免有一個預先計算的查找表。當我使用標準PHP數學 floor(pow(10648, 1/3)) 它返回21，而不是22。這是錯誤的，因爲21^3給出92161.其原因

-1熱度

4回答

如何確保我的雙重輸出只有2個小數位？

我正在設計一個假設爲ATM機的課程項目。該項目的參數有5個方法和一個主程序。一切似乎都運轉良好，但經過進一步測試並存入更多資金後，新的餘額變成了一個約有16位小數的數字。我沒有使用任何除法和方法是簡單的加減算術。這基本上是我得到了一些存款後。 Enter the number for one of the following choices. 1. Display Balance 2. De

0熱度

3回答

Java減法浮點數是無窮大？

在我的調試器，我可以看到以下值： float min = -3.1931721E38 float max = 3.3434891E38 float temp = (max-min); 這將導致無窮大。這是爲什麼？（2-2^23）·2^127比臨時變量大嗎？