precision

2熱度

1回答

我目前正在解決一個稀疏的線性系統與從scipy，Python的稀疏求解器。我正在比較解析解與模擬解的結果。但是，在某些制度中，我對模擬結果的精確度有一些疑問。這是相當難以估算condition number爲稀疏矩陣。我可以找到矩陣的最大特徵值，但是搜索最小的特徵值從不會收斂，所以我甚至不能使用max（eig）/ min（eig）=條件。用另一個近似值，即max（abs（diag））/ mi

0熱度

1回答

在hdf5數據集中設置float精度

我很驚訝，我無法找到這個問題的答案。我正在將浮點值寫入hdf5數據集，並且我想將精度設置爲10位小數。從hdf5數據集上的documentation，似乎沒有任何方法來設置精度。我得到的最接近的是做'float32'或'float64'，但'float32'切斷了我的號碼。文件大小是我非常關心的問題，'float64'的不必要的數字使文件顯着變大。用hdf5選擇精度有可能嗎？我的問題的例子：隨

1熱度

1回答

63在Matlab中不等於2 ^（log（63）/ log（2））

由於浮點錯誤2 ^（log（63）/ log（2））不等於63.檢查 format long; >> 2^(log(63)/log(2)) ans = 63.000000000000014 而可惜的是我不能根據Matlab的文件上對數使用VPA：下面的結果與精確符號值，雙精度值固有包含舍入誤差。當您在雙精度輸入上調用vpa時，vpa無法恢復丟失的精度，即使它返回的數字

1熱度

3回答

2個十進制數值的乘法客觀C

我正在做Objective 2中2個值的乘法，這似乎很簡單，但是我乘法後得到的結果不正確，小數點後面的最後一位數字正在改變值。我用來做乘法的代碼如下。 NSDecimalNumber* x = rpnStack.back(); rpnStack.pop_back(); NSDecimalNumber* y = rpnStack.back(); rpnStack.pop_back(); NSDe

8熱度

3回答

打印一個整數或小數點後n位的浮點數

在Python中，如果後一種情況需要我將打印輸出限制爲一定數量的數字，如何打印一個可能是整數或實數類型的數字？長話短說，說我們有下面的例子： print("{0:.3f}".format(num)) # I cannot do print("{}".format(num)) # because I don't want all the decimals 是否有「Pyth

1熱度

1回答

Java中的Math.exp函數的侷限性

我正在實現一種算法，其中我需要很高的小數精度，因此我使用的是BigDecimal，但Math.exp只需要double參數。值在運行時產生和作爲參數傳遞給Math.exp 即 BigDecimal mathEx = new BigDecimal(Math.exp(xMulXPoint5.doubleValue())); Where xMulXPoint5 = -347222407183165.

-1熱度

1回答

在if語句C型雙比預期

我寫一個程序，它需要從用戶的整條生產線的輸入沒有工作，然後解析整數到一個數組中，並最終計算出的平均值和最接近值平均。我運行Windows 10，開發的C++ IDE和編譯TDM-GCC 4.9.2 64位我讀雙比較是C中的問題，所以我使用的isless（）函數用於更精確。不過由於某些原因，比較不執行，因爲它應該。這是我到目前爲止的代碼： #include<stdio.h> #inclu

0熱度

1回答

ostream double precision

所以我實現了我自己的array數據結構。我實現的操作，如：在指定索引添加元素刪除元素-------- -------- || 察看值存在於數組中現在我必須測量這些操作的時間。我有這樣的代碼：（IM使用Visual Studio C++） LARGE_INTEGER clock, start, end, result; QueryPerformanceFrequency(&clock);

4熱度

1回答

如何添加帶小數點的數字

我正在嘗試創建一個表格，將數字累加到兩個十進制點。即能夠與105.67和12.54加起來5.5和得到：123.71 這裏是盡我所能，但是當我嘗試添加.toFixed（2）它或者只是輸入，而不是總數.. 。我非常新的JavaScript所以只是莫這裏找到的方法是我的jsfiddle：https://jsfiddle.net/Vicky1984/Lpwcuyb5/d 這裏是我使用的代碼; func

2熱度

4回答

如何浮點精度設置工作

我已經看到了關於如何設置精度浮點數和我們到處都在做類似下面很多答案： double RoundDouble(double doValue,int nPrecision) { return (floor((doValue*pow(10,nPrecision)+0.5))/pow(10,nPrecision)); } 我不明白爲什麼乘法和幾乎相等分數字會正確設置精度？任何人都可以詳細