floating-point

    1熱度

    1回答

    雙舍入錯誤，無需計算

    我觀察到一個（對我來說）C＃（.Net 4.6.1）中帶有浮點變量的奇怪問題。 我有一個自己的簡單的Point類： public class Point { public readonly double X; public readonly double Y; public Point(double x, double y) { this.
    c# floating-point rounding-error 2017-08-17

    1熱度

    1回答

    Float - > String - > Float Conversion的錯誤可靠邊距？

    我有一個float值，我需要將它作爲字符串存儲在PHP中，然後在重新轉換爲浮點數後再進行比較。 由於我知道，靠平等將是一個錯誤，因爲有對精度的損失潛在的，所以我在做類似下面的轉換：現在 if (abs((float)$string_value - $float_value) < 0.001) { echo "Values are close enough\n"; } ，而保證金對於我的直接目的
    php floating-point precision floating-accuracy 2017-08-20

    2熱度

    4回答

    行爲與正零（0.0）

    在我的代碼比較負零（-0.0）的， float f = -0.0; // Negative 並用負零 f == -0.0f 結果相比較將是true。 但 float f = 0.0; // Positive 與負零 f == -0.0f 還比較，結果將是true而不是false 爲什麼在兩種情況下會導致是真的嗎？ 這裏是a MCVE to test it (live on coli
    c++ floating-point ieee-754 2017-08-21

    -2熱度

    1回答

    如何在for循環中聲明多個具有相似名稱的數組？

    我想和名稱聲明32個1D陣列efficiency_module_cmp_％D_X，％d變爲從1到16和efficiency_module_cmp_％d_y，％d爲1〜16 我使用以下代碼來執行此推移但這是行不通的。這有什麼問題： char array_name[100]; char array_name1[100]; for (int i=0; i<16;i++) { spr
    c++ arrays for-loop floating-point char 2017-08-21

    1熱度

    1回答

    在Haskell中實現浮點數的最佳方式？

    floor在Haskell中僅爲RealFrac類型類定義。我不太瞭解這個類型類，而我的其他代碼只使用浮點數。 我找不到任何功能將Float投射到Int。如果有那麼floor將相當於fromIntegral (fromFloating x)和fract將被定義爲 fract x = x - floor x 然而，正如我說的，我還沒有發現，不喜歡什麼，我想fromFloating做任何事情的任何
    haskell optimization floating-point 2017-08-22

    1熱度

    2回答

    R：MclustICL功能錯誤四捨五入時

    當運行mclustICL（R包mclust 5.3）上的數據中發生錯誤： data <- c(-0.485152666666667, -0.457841666666667, -0.457841666666667, -0.457841666666667, -0.457841666666667, -0.457841666666667, -0.457841666666667, -0.45784166
    r floating-point mclust 2017-08-22

    0熱度

    1回答

    在python中定義plceholder的feed_dict

    我在Python中不太好。我想知道如何能夠使用Python爲Tensforflow中的佔位符定義feed_dict。我查看了我的問題，最接近的是C++ here。 假設我有以下的張量： (<tf.Tensor 'Mul:0' shape=<unknown> dtype=float32>,) 看到它沒有feed_dict： print sess.run('Mul:0') 帶來了這個錯誤： I
    python tensorflow floating-point placeholder 2017-08-23

    2熱度

    1回答

    恢復規範化操作時的精度問題

    我正在做一些規範化操作，令我驚訝的是，當試圖恢復操作時，我得到了默認的6位小數精度爲assert_array_almost_equal的100％不匹配。爲什麼會發生？這可能是由於我的最大值的精度？如果是這樣，我如何才能在numpy.ndarray.max()中獲得更高的精度？ from __future__ import division import numpy _max = numpy.
    python numpy floating-point precision 2017-08-24

    1熱度

    4回答

    浮點數到整數轉換在Python行事怪異超級

    所以這只是浪費一對夫婦在調試礦井小時.. a,b = 32980.642295,32630.642295 print a-b print int(a-b) print int(a) - int(b) 輸出： 350.0 349 350 能有人向我解釋是怎麼回事上？爲什麼350.0的int不是350？我認爲Python是做一些奇怪的東西，在轉換爲int之前鑄造和b .. 編輯/更新
    python debugging floating-point integer type-conversion 2017-08-25

    0熱度

    1回答

    最小的EPSILON比較C中的雙變量？

    在我的程序中，我將特定座標放入列表中。但是，該算法有時會將相同的座標放入列表中兩次。爲了避免這種情況，我做的標準方法，通過在列表中的EPSILON值關閉所有位置比較x和y的值的絕對差： bool doubleEqual(double x1, double y1, double x2, double y2){ if((fabs(x1-x2) < EPSILON) && (fabs(y1-y
    c floating-point double epsilon 2017-08-25
最新問題