rounding-error

    -1熱度

    3回答

    我想在C中編譯一個程序來返回數字的平方,例如1^2 = 1,但程序編譯時沒有問題,總是返回值爲0. 我做錯了什麼? #include <stdio.h> #include <math.h> int main(int argc, const char * argv[]) { /* Define temporary variables */ double value1, value2;

    1熱度

    1回答

    我觀察到一個(對我來說)C#(.Net 4.6.1)中帶有浮點變量的奇怪問題。 我有一個自己的簡單的Point類: public class Point { public readonly double X; public readonly double Y; public Point(double x, double y) { this.

    0熱度

    1回答

    我跟隨Landau的計算物理的調查和我做這個問題(B部分): 我寫的代碼來生成以下4個解決方案。我對作者希望我在這裏做什麼感到困惑。 測試減法消除錯誤時,是否像從結果2中減去結果1一樣簡單?問題的關鍵在於看看一臺機器由於四捨五入而導致減法的方式,所以我無法從機器中得到確切答案,對不對? 爲我解決這個,我發現,使用c=10^-1導致1.38777878078145e-17的方法1和1.1102230

    0熱度

    1回答

    爲什麼這個 >>> pd.Series(94.175).values[0] >>> 94.174999999999997 我用下jupyter筆記本python3.5和pandas0.20。

    1熱度

    2回答

    我正在使用Java開發項目,並以微單位爲單位提供價格。 微單位價格是一個價格,其中1,000,000個微單位等於一個貨幣單位。例如,如果價格是「€7.99」,price_amount_micros是「7990000」 我需要提取7和99作爲單獨的字符串。看了一些帖子有關舍入誤差,我想實現什麼,我需要正確的方法是使用下面的正則表達式給定的量轉換爲字符串並提取單位和亞單位部分: ^(\d+)(\d{2

    0熱度

    1回答

    在我的數值分析課程中,我們有時需要使用t數舍入算法進行計算,即每個計算(每計算,不是每個變量賦值)四捨五入t意義全數字。我正在使用matlab進行計算,我需要一種方法來限制matlab在t數字四捨五入算法中對其計算進行所有的計算。 如果不存在這樣的方式,我想找到一種方法來將特定數字四捨五入爲全意數字。 謝謝! p.s.我嘗試使用digits(t),但它似乎隻影響matlab顯示數字的方式(我可能會

    4熱度

    2回答

    我在Theano中有一個實數矩陣,我想要生成另一個矩陣,使得在新矩陣的每一列中都有一個1.0,否則爲0.0。 1.0應該指示輸入矩陣列中最大值的位置。 例如。 0.0 0.0 0.0 1.0 1.0 0.0 1.0 0.0 0.0 1.0 0.0 0.0 ,我迄今使用的解決方案如下:: tmp = T.max(inp, axis = 0).dimshuffle('x',0) out =

    1熱度

    1回答

    爲了找到在一定基數的數字的位數,我試圖寫該行: numdigits = math.floor(math.log(num, base)) + 1 其中math.log(num, base)相當於math.log(num)/math.log(base) 但是,在這兩種情況下,這有時會得到錯誤的位數。這是因爲math.log的答案是浮點數,因此精度有限。例如,計算的3486784401(3^20)底

    0熱度

    3回答

    在以下代碼中,i將始終爲偶數,因此商i/2應始終爲整數。我是否還應該使用Math.floor(i/2)來保證安全?我在問,因爲JavaScript不會將所有數字視爲浮點數,所以我擔心舍入誤差。 for (var i = 0; i < data.length; i = i + 2) { var name = names[i/2]; ... }

    0熱度

    1回答

    我想問一下函數mpi_send和mpi_recv是否有類似於mpi_reduce的舍入錯誤?我認爲這不應該是因爲mpr_reduce函數的舍入錯誤來自處理器執行順序的差異,但函數mpi_send和mpr_recv沒有類似的過程。 那麼我想問一下,通過比較一個並行代碼和一個串行代碼來驗證只有mpi_send和mpi_recv函數的並行代碼是否合乎邏輯? 謝謝你的時間。