precision

    -1熱度

    3回答

    正如我從answer瞭解到的,有一種方法可以通過宏LDBL_MANT_DIG使用float.h來擴展精度。我的目標是提高double值的浮點精度,以便我可以存儲更精確的數字,例如0.000000000566666而不是0.000000。請問,有人可以舉一個簡短的例子來使用這個宏,以便我可以擴展存儲在緩衝區中的精度嗎?

    1熱度

    1回答

    我目前正試圖建立一個多類預測模型來預測26個英文字母中的字母。目前我使用ANN,SVM,Ensemble和nB構建了一些模型。但我堅持評估這些模型的準確性。儘管混淆矩陣顯示了按字母順序的正確和錯誤預測,但我只能得到每個模型的總體準確性。有沒有一種方法可以評估模型的準確性,類似於二項分類的ROC和AUC值。 注意:我目前使用H2o軟件包運行模型,因爲它爲我節省了更多時間。

    0熱度

    1回答

    我正在使用24位ADC並試圖計算可讀的最小電壓。 ADC的24位有符號,因此只有23位有效位。 ADC滿量程讀數爲5v,所以我按如下方式計算LSB。 雙LSBval24 = 5.0 /(POW(2,23)-1); 現在有趣的部分。對於運行Debian 32bit操作系統的Raspberry pi,與Windows 10 64位上的計算器相比,計算結果略有不同。 的PI輸出被VI下面的代碼獲得 炭L

    0熱度

    1回答

    我想在我的函數GGG中獲得更精確(最多6位小數位)的x[1]和x[2]。 使用optim,我得到了一些精度高達3位小數,但我想知道如何提高至少6位小數的精度? 可以使用optimize和nlm達到這個目標嗎? GGG = function(Low, High, p1, p2) { f <- function(x) { y <- c(Low, High) - qcauchy(c(p1, p

    2熱度

    1回答

    跨越我在那裏工作是有一個php.ini文件服務器上的情況最近傳來: precision = 16 默認爲14,這似乎不足爲害。不幸的是,導致這種: // ini_set('precision', 16); echo round((20.12/36.79),4); 結果:0.5469000000000001 咦? round()不應該在這裏處理浮點精度問題嗎?

    0熱度

    1回答

    我有任意的大,小值的熊貓數據框(其大小是未知先驗),說: >>> import pandas as pd >>> df = pd.DataFrame({'a' : [0.0000001, 2, 3], 'b' : [4, 5000000, 0.6]}) 默認顯示將轉換某些號碼以工程格式 >>> df a b 0 1.000000e-07 4.0 1 2.000000

    1熱度

    1回答

    我已經爭取了兩天,在一個gfortran大氣輸送模式代碼MPI_REDUCE調用,具有良好的輸入參數,但返回在主人的recvbuf非常不合理的結果。我已經能夠複製一個簡單的例子問題,具體如下: PROGRAM TEST USE mpi IMPLICIT NONE INTEGER my_rank, size, ierror INTEGER, PARAME

    0熱度

    1回答

    我在執行矩陣乘法時似乎遇到了精度損失,並且想知道如何防止這種情況。例如,假設壯舉和β是適當的尺寸, Y = feat*beta.rows(0,N); 我一起工作的數字是相當小的值,多數數字是小於1E-3所以有可能是什麼我想實現是不可能的。我還應該注意到這是一個調用C++函數的MATLAB函數,因此涉及到MEX編譯器。當他們到達時,我確實檢查了mex函數中的數字,他們是正確的,只有在上面的這一行

    0熱度

    1回答

    我一直在將IDL代碼翻譯成Python,並注意到最終產品的差異。差異也不可忽略(例如通過IDL獲得19.03,而Python獲得19.16)。我確認這兩個腳本產生相同的值(它們通常在小數點後四位,五位或六位不同),直到我開始執行多個數組操作。我懷疑精度可能是原因(Python和IDL數組都是type=FLOAT)。我做了一個簡單的實驗,我也看到了顯着的差異。 IDL a = 0.01 b = 0

    0熱度

    3回答

    比方說,使用java,我輸入 double number; 如果我需要使用非常大或非常小的值,它們可能有多精確? 我試圖讀取雙打和浮動工作,但我真的不明白。 對於我在編程介紹中的術語項目,我可能需要使用具有大範圍值(許多數量級)的不同數字。 比方說,我創建了一個while循環, while (number[i-1] - number[i] > ERROR) { //does stuff