precision

2熱度

2回答

我希望四捨五入浮點數來設置精度並返回函數的結果。例如，我現在有以下功能： inline bool R3Point:: operator==(const R3Point& point) const { // Return whether point is equal return ((v[0] == point.v[0]) && (v[1] == point.v[1]) &&

0熱度

6回答

的Python：哪種方式提供了更好的精度

是否有一個時間分配之間的精密任何區別：在循環 res=n/k 和多任務： for i in range(n): res+=1/k ？

1熱度

3回答

SQL Server數據類型精度 - Neo，什麼是真實的？

SQL Sever的2000 documentation：是與浮點數數據以下有效值：-3.40E + 38通過-1.18E - 38，0和1.18E - 38到3.40E + 38.存儲大小爲 4個字節。在SQL Server中，real的同義詞是float（24）。 SQL Server 2005中documentation：的ISO同義詞真正爲float（24）。編輯：鑑於我正在讀

8熱度

1回答

我該如何設置Perl的標準精度？

我想在Perl中使用bignum模塊，並且想要設置精度。我知道這可以通過一個襯墊進行儘可能詳細的module's CPAN page： $ perl -Mbignum=p,-50 -le 'print sqrt(20)' ...這將打印出的精度20〜50位數字的平方根，但我不知道是如果有反正設定在腳本中的精度，即是這樣的： #!/usr/bin/perl use bignum; setP

0熱度

2回答

C＃到SQL浮點值轉換

我用C＃和SQL 2005 工作我已經存儲的值0.2到真正類型的表列的浮動變量。當我打開表格檢查值時，我發現一個值爲0.200000029 ...這是已知問題，實際是近似類型。但是，我已將使用管理工作室的值更改爲0.2並重新載入表格。數據庫現在顯示0.2的值。問題出在C＃和SQL之間。是否有可能從SQL管理工作室存儲C＃中的值？我想這是，但不知道如何。任何人都可以幫忙嗎？非常感謝。托馬

6熱度

1回答

C＃ - 非常小數字的問題 - 雙數據類型中沒有足夠數字

我正在用C＃編寫一個程序，該程序假設要計算非常小的數字。然而，我所有的計算都得到了NaN值，因爲它們對於'double'數據類型來說太小了。在C＃中是否有一個選項來處理這種情況？謝謝，伊甸園。

2熱度

3回答

機器精度

我不知道是否有像eps這樣的東西代表C++中機器精度的值？我可以使用它作爲double可以表示的最小正數嗎？是否可以使用1.0/eps作爲double可以表示的最大正數？我在哪裏可以在C++和C標準庫中找到eps？感謝和問候！ UPDATE：對於我的目的，我想計算的權重爲類似反距離加權插值（http://en.wikipedia.org/wiki/Inverse_distance_weight

10熱度

3回答

爲什麼這種軸承計算如此不準確？

它甚至不準確嗎？我用Apfloat以任意的精度重新實現了整個事情，並且我從本應該知道的開始並沒有什麼區別！ public static double bearing(LatLng latLng1, LatLng latLng2) { double deltaLong = toRadians(latLng2.longitude - latLng1.longitude); double lat1

2熱度

3回答

如何計算遊戲板上的孔位置？

我正在用Python-> PyGame-> Albow進行遊戲，並遇到了董事會一代的問題。不過，我會嘗試用語言不可知的方式來解釋問題。我相信這與python無關。我已經將遊戲主板分成幾部分。第一部分產生板孔。孔包含在列表/數組中。每個孔洞對象都有一個與其周圍的其他孔洞相關的角度映射圖，每個孔洞都與其相連。（有點像HTML DOM兄弟姐妹，不同之處的任何角度也可以）的孔是這樣的： hole

23熱度

3回答

如何以可變的精度Java String.format？

我想改變基於用戶輸入格式化的字符串中的雙重表示的精度。現在我想嘗試類似於： String foo = String.format("%.*f\n", precision, my_double); 但是，我收到java.util.UnknownFormatConversionException。我對這種方法的啓發是C printf和this resource（第1.3.1節）。我在某處是否有簡