floating-point

    -1熱度

    1回答

    在Python浮點操作中將小數位數限制爲2

    我的想法是接受一個數字作爲輸入，也許1.00，然後乘以常量。 隨後它被傳遞給一個函數來確定它是否是一個有效的迴文。 如果不是這種情況，數字將逐漸增加，直到達到有效的迴文數 - 但是，我想將探索空間限制在小數點後第二位。 也就是說1.01是有效輸出，但是1.001不是。 下面的代碼執行上面描述的過程，注意當前輸出通常無效，溢出到更小的小數空間，即1.00001等等。 操作的小數位數如何限制爲2？ i
    python floating-point decimal 2017-09-23

    0熱度

    4回答

    強制執行數字輸出至少有兩個尾隨小數，包括尾隨零

    我有一個產生以下輸出一個Python腳本： 31.7 31.71 31.72 31.73 31.74 31.75 31.76 31.77 31.78 31.79 31.8 31.81 31.82 31.83 31.84 31.85 31.86 31.87 31.88 31.89 31.9 31.91 請注意編號31.7，31.8，31.9。 我的腳本的
    python floating-point precision decimal-point 2017-09-23

    1熱度

    1回答

    使用高斯消除計算矩陣的逆時出現非常高的不準確性

    我正在使用一個C++代碼庫，它使用矩陣庫來計算各種事物。其中一件事是計算矩陣的逆矩陣。它使用高斯精度來實現這一點。但結果是非常不準確的。如此多的以至於將逆矩陣與原始矩陣相乘甚至沒有接近單位矩陣。 下面是用於計算逆的代碼，基質模板上的數值類型，並且行和列： /// \brief Take the inverse of the matrix. /// \return A new matrix whi
    c++ math matrix floating-point matrix-inverse 2017-09-25

    3熱度

    1回答

    kotlin中的nullsafe float如何繁殖？

    考慮代碼例如： val contentLength :Long? = 1 val float = contentLength?.toFloat() val any = (float ?: 0) * 1.25 // ^ // compilation error here 如果我嘗試提取可變herem那樣： val casted = (float ?: 0) IDE表明cas
    casting floating-point numbers kotlin 2017-09-27

    2熱度

    2回答

    當「真實」結果無法準確表示時，double/float是如何舍入的？

    我知道浮點數是不準確的。不過，我的問題是，哪個「下一個」數字的結果是四捨五入的。 它是下一個更高的嗎？下一個較低的？它是最接近的嗎？ 我的猜測是這是一個尾數會發生什麼問題，但我不確定它是否被截斷，無論它取決於結果是否從「下方」創建（例如總和）或「從上面」（例如差異）。還是更容易，它是純粹的任意，只取決於編譯器/體系結構？
    floating-point language-agnostic 2017-09-27

    1熱度

    2回答

    兩個正漂浮物的產物是否爲負？

    當一段代碼最近看，我碰到一條線，讓我思考： if a*b > 0: # do stuff 應當假定a和b是浮動。 問： 是否可能存在（非常小的，積極的，並有可能接近〜eps_mach）的a價值觀和b，使得他們的產品是負的？如果不是，是否可以是a*b==0既不是a==0也不是b==0。 爲了不成爲一個完整的懈怠，這裏是我的想法： 不，這是可能的，因爲在FP算術產品以這樣的方式可能定義的
    floating-point 2017-09-30

    -1熱度

    1回答

    如何在手上將半精度二進制轉換爲十進制？

    例如， 1 10000 0000000000 = −2 但是，爲什麼？任何人都可以用一些例子來解釋一下嗎？
    floating-point ieee-754 2017-10-04

    0熱度

    2回答

    劃分過程中的浮點位會發生什麼？

    我有需要我通過2用C來劃分一個32位單精度浮點整數使用逐位運算（if語句和for循環也可以使用）的家庭作業。浮點的位表示爲無符號整數，因此我們可以使用按位運算符來修改它們。我的問題是，我很難理解分割過程中的位發生了什麼。我最初的計劃是簡單地將指數位向右移動1，同時保持符號和尾數位相同，但是這沒有奏效。例如，當我的函數被賦予由0x800000表示的位時，我的函數返回0x00000000，因爲右移指數
    c floating-point bit-manipulation bitwise-operators bit 2017-10-05

    1熱度

    1回答

    驗證點是否位於指定節點的網格

    雖然我試圖在大量使用numpy的情況下解決此問題（因此優雅的基於numpy的解決方案將受到特別的歡迎），但基本問題無關緊要與numpy（甚至Python）等。 任務是爲一個算法創建一個自動測試，該算法應該產生分佈在一個網格上的點，該網格的音調被指定爲該算法的輸入。該絕對職位的點並不重要，但他們的相對職位做。例如，以下 collection_of_points = algorithm(data, p
    numpy floating-point 2017-10-05

    0熱度

    1回答

    在For循環中輸入一個數組，但只浮出一個浮點數

    我想要舍入數組中的值longYearDig，然後將浮點數值轉換爲整數。但是，當我輸入一個有10個值的數組longYearDig時，我只得到一個浮點數pointyearDig。 我所投入： longYearDig = [ 98.32428472 98.32433235 98.32445675 98.32451913 98.32451913 98.32458141 98.32464367 98.324
    python python-2.7 loops for-loop floating-point 2017-10-06
最新問題