precision

    1熱度

    1回答

    如何在Fortran中檢查REAL是否作爲DOUBLE傳遞？

    我正在將一個子例程鏈接到Fortran中的另一個調用程序。我無法訪問調用程序。調用程序根據用戶輸入開關傳遞我的程序單精度數字或雙精度數字。例如，這裏的一些代碼 subroutine myCode(x) implicit double precision (a-h,o-z) ! do something with x end subroutine myCode 同樣，調用程序可通過x作爲單
    fortran precision fortran90 2017-09-01

    0熱度

    3回答

    將精確表示分配給浮點值

    在this question中，OP試圖隔離大程序中難以捉摸的錯誤。他觀察了一些double值，然後嘗試將它們作爲輸入硬編碼到較小的測試程序。 ideea非常適合隔離這樣的bug。 但是所選擇的方法違反了字符串別名規則，引入UB，從而所述測試是完全不可靠： 手錶的調試器的表達式： +------------------------+----------------------| | Watch
    c++ floating-point precision 2017-09-03

    0熱度

    1回答

    在C++中聲明一個八位精度浮點變量

    我希望聲明一個浮點變量，它可以存儲比常見的雙精度和長精度精度更高的數字，最好是八進制數（256位），（我相信）可能會提供約70位有效數字。 我該如何聲明這樣一個變量？跨平臺兼容性會成爲一個問題（與固定寬度的整數相反）？ 任何幫助，非常感謝。
    c++ floating-point precision 2017-09-04

    0熱度

    1回答

    Oracle DB使用JDBC返回負值和0精度

    我在oracle數據庫中創建了一個類型爲NUMBER的表中的列，但在創建此列時，我將精度和縮放比例留空。 當我使用java.sql的ResultSetMetadata類來獲取列信息時，我得到了列精度爲0，標度爲-127。 Oracle的文檔說 缺乏精度和標度指示器的指定爲Oracle數的最大範圍和精度。 但這在這種情況下意味着什麼？精度如何返回等於0並且縮放爲負數？ 我應該以不同的方式獲得比例和精
    java oracle jdbc precision 2017-09-06

    -1熱度

    2回答

    Python的十進制給出

    我在與以下計算的問題不正確的結果： Decimal(3)*(Decimal(1)/Decimal(3)) 而不是返回1.0，則返回0.999 ... 仍然如此，不管我有多增加Decimal模塊的精度。 下面是完整的代碼： from decimal import Decimal from decimal import getcontext getcontext().prec = 800 p
    python python-2.7 floating-point precision 2017-09-06

    3熱度

    1回答

    有沒有一種方法來控制C中printf（）函數中float的寬度和精度？

    我怎樣才能控制寬（寬度）和精度，例如使用兩個整數int a和int b我可以在代碼中分配一個值？ printf("%a.bf\n", floatVariable);
    c floating-point printf precision 2017-09-07

    -1熱度

    1回答

    浮點溢出爲負

    我們知道有符號的整數可以有整數溢出，例如，符號位從0翻轉爲1，導致正整數變爲負數。 浮點數可以發生嗎？在實驗中，當數字太大時，它就變成Inf。但是不可能溢出尾數或指數，導致類似的問題？
    floating-point numbers precision floating-accuracy integer-overflow 2017-09-09

    1熱度

    1回答

    ？

    我執行文本分類的快速文本，鏈接https://github.com/facebookresearch/fastText/blob/master/tutorials/supervised-learning.md 我想知道什麼是精度@ 1，或P @ 5是什麼意思？我做了一個二元分類，但是我測試了不同的數字，我不明白的結果： haos-mbp:fastText hao$ ./fasttext test
    nlp classification precision fasttext 2017-09-09

    0熱度

    1回答

    浮點格式

    所需的最低位我有一個任務來計算位，這是需要表達以下電話號碼和滿足所有要求的最低數量： 分鐘。編號：10 max。編號：10000000 準確度：0,001％的數字。 我不太清楚如何處理這個任務。我應該以像IEEE這樣的浮點格式呈現...... 要表達最大值。數量我認爲有5位需要（指數位），因爲那時我可以顯示2^31，這就足夠了。由於我不需要顯示負數，所以我可以保存符號位，並且指數中也不需要負數，所
    binary floating-point computer-science precision ieee-754 2017-09-11

    -2熱度

    1回答

    使用swift以非常小的值進行計算以標準形式表示

    我有一個冗長乏味的作業，計算前20個元素核的具體電荷。作爲一個不想在科學計算機上用同一個公式輸入不同數字20次的人，我試圖編寫它。然而我意識到： 斯威夫特是很難用標準的形式使用原生 小數字似乎導致問題 我花了兩個輸入，以及Z是什麼，我相信被稱爲核素數目和分別質子數和施加它們於下式： 利用這一點，似乎CAUS然而問題在於e和m的價值 p，m e和m n非常小，我似乎無法與他們合作。然而，我的科學計算
    swift double precision floating-accuracy exponent 2017-09-12
最新問題