precision

    -1熱度

    2回答

    Math.sin給人怪異的答案

    我： double num1 = sc.nextInt(); 我用： double sin = Math.sin(Math.toRadians(num1)); 並取得輸出： if(calc.contains("sin")) { System.out.println (sin); } 如果我輸入了NUM1： 30它計算罪惡。它給我0.49999999999999994
    java precision sin 2016-11-24

    2熱度

    2回答

    固定點Cholesky算法的優點

    我正在開發一些代碼，可以從浮點或固定點的HW中獲取其數據。目前我們將其作爲浮點。 低層API都處於固定點。所以我們必須將數據作爲固定點傳遞回去。我們使用的算法是Cholesky。我想知道爲什麼我們必須爲Cholesky使用浮點數，而不是僅僅將數據作爲固定點。這樣做有什麼好處嗎？ 我會認爲使用浮點會導致更多的舍入誤差。
    algorithm floating-point precision fixed-point 2016-11-24

    -1熱度

    3回答

    如何爲數據表中的列設置小數精度最多6位數？

    在我的應用程序中，對於貨幣分析，我必須處理7,6格式的數字。小數點前7位數字，小數點後6位數字。 例子： 1234567.123456 我從用戶獲得匯率和發送它通過C＃代碼到後端。我已經使用以下數據表來存儲費率並將其發送給SP。 DataTable structureTable = new DataTable("CurrencyAnalysis"); structureTable.Col
    c# datatable precision 2016-11-24

    0熱度

    1回答

    鑄造十進制實爲雙精度產生奇怪的行爲

    我想投一個小數真正到雙精度，它有以下行爲： select 2.2::real::double precision; 輸出： 2.20000004768372 (double precision) 如何使其輸出以下內容： 2.2 (double precision) 謝謝
    postgresql casting precision postgresql-9.4 2016-11-25

    0熱度

    1回答

    除了上的std ::原子<double>不加起來非原子對應

    我想用比較和交流方案使用此函數來執行的循環中的雙原子加法： namespace my { template<typename value_type> value_type atomic_add(std::atomic<value_type>& operand, value_type value_to_add) { value_type old = ope
    c++ c++11 floating-point precision atomicity 2016-11-30

    3熱度

    1回答

    我失去了2在IEEE754乘法

    我學習IEE754權力，我有點被這些代碼行 double a = 0.2; double b = 100.0; double c = a * b; 我知道，0.2不能完全通過的2，而100可以代表權力困惑，但是我得到了20分的完美結果。 可視化的2組成這些值的權力（我用一個簡單的JS可視化：http://bartaz.github.io/ieee754-visualization/）我看到
    c++ c double precision ieee-754 2016-12-01

    0熱度

    1回答

    如何提高查詢和文檔相似性度量python TFIDF，BM25精度，召回

    我試着爲查詢和文檔計算TF-IDF，並使用COS距離對結果進行排名並得到Top50類似文檔。 同樣，我計算BM25得分並將最高BM25得分評爲No.1，並獲得前50個相似文件。 但是，對於TF-IDF和BM25，結果都不好。 （數據集是標籤測試數據集的大小爲1400的文檔。）： For example in the testing dataset judgment the queryID=1
    python precision information-retrieval tf-idf precision-recall 2016-12-05

    1熱度

    2回答

    比較精度下降的浮點數列表

    我正在爲一個執行繁重浮點數字計算的函數編寫測試。自然計算浮動時，你不期望得到完美的結果。然而，這對我的測試來說是一個問題，因爲我需要將預期結果與函數產生的實際結果進行比較。 我的功能的結果是一個花車的alist。例如： (is (my-function "arg1" "arg2") '((0 1.0) (1 2.0))) 會產生： ((0 1.00000014) (1 2
    floating-point common-lisp precision floating-accuracy 2016-12-06

    0熱度

    1回答

    的Python VS MATLAB - 治療接近機器精度

    號我知道有幾個職位在那裏主題類似。但是，我一直無法找到任何不是特定問題和更一般的問題。 拜託，我不是在尋找一個解決辦法 - 即「if」語句強制值是零，如果足夠接近它。 在我的問題中，我正在研究將矩陣轉換爲Hessenberg形式的結果（即應用轉換將零引入矩陣 - 數學的細節在這裏沒有問題）。我原來寫的代碼在MATLAB中的一類，現在希望有在Python代碼，以及（全部使用基本操作 - 沒有「黑箱」
    matlab python-3.x precision 2016-12-06

    2熱度

    1回答

    損失精度

    背景 字段TimestampCreation作爲這樣在DB中創建： [TimestampCreation] [datetime2](7) NOT NULL 如果我的字段添加到這樣的數據表： table.Columns.Add(new DataColumn("TimestampCreation", typeof(DateTime))); 值損失精度，因爲它存儲就像這樣： 2016-12-07
    .net sql-server precision datetime2 2016-12-07
最新問題