precision

0熱度

1回答

由於公式精度是： retrieved_and_relevant /（retrieved_and_relevant + retrieved_and_irrelevant）如果在文本檢索系統用於精密的值將永遠不會從100％不同我想知道。我這麼認爲是因爲，我們所有的程序員都竭盡全力，不忘記擠出所有文檔的每一個文本。所以，當查詢文本被觸發到文本檢索系統時，它將輸出包含查詢文本的所有文檔。這意味着檢索的所

0熱度

1回答

爲什麼CLLocation座標在顯示時會失去精度？

我正在進行一些實驗，嘗試通過對隨時間收集的數據執行加權平均來增加iPhone上的GPS精度。我注意到控制檯，iPhone模擬器和iPhone本身的座標顯示有所不同。我正在運行基本的CoreLocation代碼來設置我的位置管理器。 self.locationManager = [[CLLocationManager alloc] init]; [locationManager setDeleg

0熱度

2回答

十進制鑄造和精度問題

我想解決這裏的數據謎題，但我不知道這是我的代碼問題還是因特網瀏覽器問題......它在IE6和IE8中正常工作，但不知何故，當它被用來誰可能沒有使用IE客戶數據中出現錯誤... decimal? a = 1.0000m; decimal? b = 0.6999m; decimal? c = null; string aDesc = ""; string bDesc = ""; strin

1熱度

3回答

Matlab_Is數字e的表示有錯誤嗎？

我覺得在Matlab中出現錯誤的地方是用來顯示數字e的小數位數。如果把 >> sprintf('%.30f',exp(1)) ans = 2.718281828459045500000000000000 enter code here 我認爲這是錯誤的，因爲數量和包含小數，而不是僅僅在這個例子中，16 MATLAB顯示無限多的。有誰知道如何使用Matlab獲得更好的精度？謝謝

5熱度

2回答

SQL Server精確度瘋狂

我遇到了sql server精度問題。我有以下疑問： DECLARE @A numeric(30,10) DECLARE @B numeric(30,10) SET @A = 20.225 SET @B = 53.3875 SELECT @A * @B DECLARE @A1 numeric(30,14) DECLARE @B1 numeric(30,14) SET @A1 =

1熱度

1回答

Matlab的：在Matlab

存儲大量對於存儲大量我指了下： 2.7182818284590455348848081484902650117874145507812500 我不能用double precision floating-point format（IEEE754）保存此謝謝。

52熱度

1回答

在MATLAB中，變量是否默認爲雙精度？

這個問題產生出來的東西奇怪的是，我注意到調查this question後進一步... 我始終明白MATLAB變量爲double-precision默認。所以，如果我做類似小數點後20個位數聲明一個變量： >> num = 2.71828182845904553488; >> class(num) %# Display the variable type ans = double 我希望最

4熱度

7回答

控制C++單精度和雙精度混合計算的規則是什麼？

例如，這些變量： result (double) a (double) b (float) c (float) d (double) 一個簡單的計算： result = a * (b + c) * d 如何以及何時進行類型轉換，如何找出精確計算每一個在執行？

0熱度

1回答

ActionScript數據錄入問題

<s:TextInput id="bill" x="150" y="17" width="223" borderColor="#FFFBFB" borderVisible="false" color="#EF4315" contentBackgroundColor="#100101" enabled="false" fontWeight="bold" restrict="0-9" text

3熱度

2回答

使用大於最大十進制值的數字

我正在使用前26個素數的乘積。這需要超過52位的精度，我相信這是雙倍可以處理的最大值，並且超過了十進制可以提供的28-29位有效數字。那麼，對數字進行乘法和除法的策略是什麼呢？此外，爲了實現這一目標，我將不得不跳過什麼樣的箍環？第22張素數（最讓我可以在我的計算器一起乘而不落入科學模式）的產品是： 10,642,978,845,819,148,849,204,664,294,430 過去四