rounding-error

-1熱度

3回答

我想在C中編譯一個程序來返回數字的平方，例如1^2 = 1，但程序編譯時沒有問題，總是返回值爲0. 我做錯了什麼？ #include <stdio.h> #include <math.h> int main(int argc, const char * argv[]) { /* Define temporary variables */ double value1, value2;

1熱度

1回答

雙舍入錯誤，無需計算

我觀察到一個（對我來說）C＃（.Net 4.6.1）中帶有浮點變量的奇怪問題。我有一個自己的簡單的Point類： public class Point { public readonly double X; public readonly double Y; public Point(double x, double y) { this.

0熱度

1回答

當我更改變量`c`的值時，如何測試機器精度中的錯誤？

我跟隨Landau的計算物理的調查和我做這個問題（B部分）：我寫的代碼來生成以下4個解決方案。我對作者希望我在這裏做什麼感到困惑。測試減法消除錯誤時，是否像從結果2中減去結果1一樣簡單？問題的關鍵在於看看一臺機器由於四捨五入而導致減法的方式，所以我無法從機器中得到確切答案，對不對？爲我解決這個，我發現，使用c=10^-1導致1.38777878078145e-17的方法1和1.1102230

0熱度

1回答

舍入誤差在大熊貓

爲什麼這個 >>> pd.Series(94.175).values[0] >>> 94.174999999999997 我用下jupyter筆記本python3.5和pandas0.20。

1熱度

2回答

如何從Microunits中給定的金額中提取單位和子單位部分？

我正在使用Java開發項目，並以微單位爲單位提供價格。微單位價格是一個價格，其中1,000,000個微單位等於一個貨幣單位。例如，如果價格是「€7.99」，price_amount_micros是「7990000」我需要提取7和99作爲單獨的字符串。看了一些帖子有關舍入誤差，我想實現什麼，我需要正確的方法是使用下面的正則表達式給定的量轉換爲字符串並提取單位和亞單位部分： ^(\d+)(\d{2

0熱度

1回答

極限matlab計算的精確性

在我的數值分析課程中，我們有時需要使用t數舍入算法進行計算，即每個計算（每計算，不是每個變量賦值）四捨五入t意義全數字。我正在使用matlab進行計算，我需要一種方法來限制matlab在t數字四捨五入算法中對其計算進行所有的計算。如果不存在這樣的方式，我想找到一種方法來將特定數字四捨五入爲全意數字。謝謝！ p.s.我嘗試使用digits(t)，但它似乎隻影響matlab顯示數字的方式（我可能會

4熱度

2回答

如何使用Theano將列中的最大值替換爲1.0？

我在Theano中有一個實數矩陣，我想要生成另一個矩陣，使得在新矩陣的每一列中都有一個1.0，否則爲0.0。 1.0應該指示輸入矩陣列中最大值的位置。例如。 0.0 0.0 0.0 1.0 1.0 0.0 1.0 0.0 0.0 1.0 0.0 0.0 ，我迄今使用的解決方案如下：： tmp = T.max(inp, axis = 0).dimshuffle('x',0) out =

1熱度

1回答

掌握日誌的地板上舍入誤差在Python

爲了找到在一定基數的數字的位數，我試圖寫該行： numdigits = math.floor(math.log(num, base)) + 1 其中math.log(num, base)相當於math.log(num)/math.log(base) 但是，在這兩種情況下，這有時會得到錯誤的位數。這是因爲math.log的答案是浮點數，因此精度有限。例如，計算的3486784401（3^20）底

0熱度

3回答

通過商標對數組索引

在以下代碼中，i將始終爲偶數，因此商i/2應始終爲整數。我是否還應該使用Math.floor(i/2)來保證安全？我在問，因爲JavaScript不會將所有數字視爲浮點數，所以我擔心舍入誤差。 for (var i = 0; i < data.length; i = i + 2) { var name = names[i/2]; ... }

0熱度

1回答

mpi_send mpi_recv舍入錯誤

我想問一下函數mpi_send和mpi_recv是否有類似於mpi_reduce的舍入錯誤？我認爲這不應該是因爲mpr_reduce函數的舍入錯誤來自處理器執行順序的差異，但函數mpi_send和mpr_recv沒有類似的過程。那麼我想問一下，通過比較一個並行代碼和一個串行代碼來驗證只有mpi_send和mpi_recv函數的並行代碼是否合乎邏輯？謝謝你的時間。