double-precision

5熱度

2回答

在試圖在簡單程序中混合精度 - 使用實數和雙精度並使用BLAS的ddot例程時，我想出雙精度單元的錯誤輸出。下面的代碼： program test !! adding this statement narrowed the issue down to ddot being considered real(4) implicit none integer, parameter :: dp

4熱度

2回答

ceil（double）中的「double」是做什麼的？

我有一個數字（比方說，34），我想找到它的下一個倍數。我可以這樣做：除以10 數乘以10 舍入到一個整數位的研究之後，我發現這對於那些在目標C代碼： int number = 34; int roundedNumber = ceil((double)number/10)*10; 我的問題是：什麼是(double)的，和爲什麼REM (double)導致它下降而不是向上？我明白從谷歌搜索

2熱度

5回答

C++：0和0.0之間的差異？

我很清楚0和0.0（int和double）之間的區別。但是0.和0.0（請注意）有什麼區別嗎？非常感謝提前，阿克塞爾

4熱度

1回答

的NSDate和雙精度問題

下面是代碼 NSDate* d = [NSDate dateWithTimeIntervalSince1970:32.4560]; double ti = [d timeIntervalSince1970]; NSLog(@"Interval: %f %f %f %f",ti,32.4560,ti*1000.0,32.4560*1000.0); 輸出間隔：32.456000 32.456

1熱度

1回答

減去2個不同的雙打產生零

我正在構建一個基於loc的應用程序，使用CLLocationManager和locationManager：didUpdateToLocation：fromLocation：我想確定用戶是否已足夠移動觸發一些其他處理。我使用雙變量。我很久以前就知道不要把雙打等同起來，而是要把三角洲與一個門檻進行比較。我的ABS（舊 - 新）比較的0.0005f 增量但是這個代碼... double latDe

5熱度

3回答

主機到網絡雙重？

我想通過網絡發送一些雙精度浮點數。（標準C，標準套接字）沒有htond或ntohd將數據轉換爲網絡字節順序和從網絡字節順序轉換數據。我該怎麼辦？我有一些解決方案，但我想知道常用的做法。（我也想知道什麼是發送64位整數，就像使用的GStreamer值gint64常見的做法）編輯：這是一個解決方案，我想到的。我認爲它適用於任何大小的整數，但對於雙打是否正確？ void swap_if_nece

7熱度

3回答

幫助在雙精度加

我測試了一些我的代碼，在javascript中我加了.1 + .2，它給了我.30000000000000004而不是.3。我不明白這一點。但是當我添加.1 + .3時，它給了我.4。我google了一下，找到了一些關於Double Precision的內容。但我不知道它是什麼。

2熱度

3回答

對於大n，java.lang.Math.pow（x，n）的準確性/精確性如何？

我想計算(1.0-p)^n其中p是0到1之間的一個雙精度值（通常非常接近0），n是一個正整數，可能大約爲數百或數千（也許更大;我還不確定）。如果可能的話，我希望僅僅使用java.lang.Math.pow(1.0-p, n)中的Java構建這個，但是我略微擔心，在我感興趣的值的範圍內，可能會有巨大的準確性/精確度損失。是否有人有一個關於使用Java的實現可能會出現什麼樣的錯誤的粗略想法？我不確定它

4熱度

2回答

MATLAB：一個UINT32（4字節）值轉換成相應的IEEE單精度浮點形式

在MATLAB（R2009b中）我有包含該值2147484101. 此數目的UINT32變量（其4-字節）已經從抓取過程中的數字機器視覺相機中提取。根據我的理解，它擁有相機快門速度的單精度形式（應接近1/260s = 3.8ms）。如何將此32位數字轉換爲其IEEE單精度浮點表示形式 - 使用MATLAB中提供的功能？隨着可變Ñ提到值，我已經採用的NN = DEC2HEX的組合試過（N，16）

1熱度

1回答

雙倍返回並綁定到列表視圖被截斷

我正在查詢我的Android應用程序的sqlite數據庫。然後，我使用一個簡單的遊標適配器將數據綁定到列表視圖。有兩個雙打被從數據庫中調用，並在列表視圖中唯一顯示爲6位數字長。例子：43.6234和-116.203 數據庫（我甩了它），這些數字有更多的數字。出了什麼問題？這裏是我的列表視圖 <?xml version="1.0" encoding="utf-8"?> <Rel