double-precision

1熱度

2回答

問題。我有雙「0.4 0.3 2.1等」的字符串。我需要在此列表中循環並計算每個數字的出現次數。我用 StringTokenizer stokens = new StringTokenizer(values); while(stokens.hasMoreTokens()) { Double tempKey = new Double(stokens.nextToken());

0熱度

1回答

混合精度分配

我與使用XLF編譯器的Power7 它使用這些標誌來精確設置爲64位的大型Fortran代碼工作：-qrealsize=8 -qintsize=8 然而代碼最近進口片也有類似的線路如下： real :: var1d(nvol) real :: var3d(ni,nj,nk) var1d = var3d*1.0e6 我想知道XLF是如何處理文字1e6？主要關心的是;這是參考版本和修改版本

-1熱度

1回答

你如何使用雙來獲得期望的結果

我嘗試在java中減去的數字，這一點讓我意外的結果 public class FloatWeird { public static void main(String[] args) { double n = 1; for(int i = 0;i<10;i++) { System.out.println(n);

-2熱度

1回答

控制精度溢出和損失，同時乘以雙打

QUES：我有大量浮點數（〜萬數），小數點後各自具有6位數字。現在，所有這些數字的乘法將產生大約60,000個數字。但雙倍範圍僅適用於15位數字。輸出產品必須在小數點後有6位精度。我的方法：我想10^6這些數字相乘，然後將它們相乘，後來由10^12分他們。我也想過用這些數字乘以數組來存儲它們的數字，然後把它們轉換成十進制數。但是這也看起來很麻煩並且可能不會產生正確的結果。有沒有更容易的方

0熱度

1回答

爲什麼我無法計算雙倍值？

我想計算0.95的值。這是我的方法： public static final int VAR = 5; private static double getDouble(){ double dis = (double)(VAR/100); dis = (double)(1-dis); return dis; } 但是，它輸出1.0 ??如果我在主要方法中輸

2熱度

3回答

如果您使用double將貨幣值轉換爲另一種貨幣並返回，您可能會失去的最高精度是多少？

我知道由於雙打的基地問題2個計算： var total: Double = 0.1 total *= 0.1 total /= 0.1 println(total) // 0.10000000000000002 我明白的BigDecimal應該用於金錢相關的計算，但在我的情況下，小精度損失是可以接受的，cuase所有貨幣計算我需要做的是將貨幣C1轉換爲貨幣C2並返回到貨幣C1。唯一的一點

-1熱度

1回答

c＃雙倍乘得到額外的精度

倍增2倍後，它獲得了很多額外的精度。然後它會導致四捨五入（至2位十進制）問題。我想要得到37.34，但它得到37.33。（在調試模式下觀看） additional precision http://s8.postimg.org/9nn2bbiab/precision.jpg 任何想法，爲什麼？以及如何解決？編輯我其實確實嘗試了MidpointRounding。試試這個任何計算器它應該給你準確

0熱度

4回答

有時浮動好於浮動嗎？

我在spoj http://www.spoj.com/problems/ATOMS/上解決了這個問題。我必須給出log（m/n）/ log（k）的整數部分作爲輸出。我已經把m，n，k當作很久了。當我用長雙打計算時，我得到了一個錯誤的答案，但是當我使用float時，它就被接受了。 printf("%lld\n", (long long)(log(m/(long double)n)/log(k)));

1熱度

2回答

DISLIN雙精度庫

我想編譯一個用FORTRAN編寫的程序，該程序使用DISLIN庫繪製圖表，但所有數據都是雙精度的。我不能失去這個精度，所以將所有內容傳遞給簡單的精度不是一個選項。當我嘗試鏈接到雙精度庫（_D），我還是收到以下錯誤我希望有我掛簡單的精準庫： call graf(-1.D0, 1.D0, -1.D0, 2.D0/10.D0, -1.D0, 1.D0, -1.D0, 2.D0/10.) (1

-2熱度

1回答

計算精度

我正在Fortran中對雙精度變量進行計算，計算後得到值爲-7.217301636365630e-24。但是，當我在Matlab中進行相同的計算時，變量只獲得值0。在進行計算時，有沒有辦法提高MatLAB的精度，以便我也能夠得到7e-24的順序？理想情況下，它可以應用於腳本中的所有計算，而不僅僅是一個變量。類似於使用format long時的情況。對我來說，這種精度是至關重要的，因爲我需要確