significant-digits

0熱度

3回答

在我的現實生活中，我將一個窗口小部件的大小乘以size_hint，它可以是從0.到1.之間的任意值。假設小部件的最小尺寸是0，最大尺寸是10,000，我應該在哪個數字上出現錯誤，當我乘以size * size_hint？例如*上0.1上.. >>> from decimal import Decimal >>> Decimal.from_float(.1) Decimal('0.100000

0熱度

1回答

R舍入有效數字

所以基本上我正在做一個物理實驗，在我的表中，我希望我的數據四捨五入到與誤差相同的精度，這個誤差被舍入爲1 sig fig。因此，例如，如果我有以下： angle <- c(4, 4.1, 4.2) angle.error <- c(0.024, 0.3, 0.113) data <- data.frame(angle,angle.error) 要我要與落得被四捨五入爲1個SIG圖角度誤差

0熱度

1回答

從Integer獲得n LSB C++

所以我得到一個無符號的int傳入我的函數。現在我必須獲得該整數的n個LSB位，並使用它訪問大小爲2^n的數組中的位置。因此，舉例來說，如果我的數組的大小爲1024，N = 10 我目前這樣做： unsigned int location = my_unsigned_int << n; 然而，隨着location最終被太這不起作用大而超出界限。

0熱度

1回答

有效位數的百分比

我注意到如果您打印的百分比數量級在相同的數量級上，percent()可以很好地幫助您獲得三位有效數字。 > library(scales) > percent(c(0.123,0.234)) [1] "12.3%" "23.4%" >percent(c(0.00123,0.00234)) [1] "0.123%" "0.234%" 但如果你的百分比是不同量級的，percent將挑選的

3熱度

1回答

找到兩個非常相似的值之間的差異的第一個有效數字

我想重現導致數據集data.ref的計算。我想通過將參考數據與我的計算結果data.my進行比較來測試我目前的實施做得如何。由於數據的每一列應有柱內可比的大小，而不是列之間不一定，我一直在尋找 (data.ref - data.my)/data.ref 把誤差在可比的規模。但是，由於數據最終會四捨五入，我真正想做的只是快速骯髒地檢查數據有多少有價值的數據。也就是說，因爲我期望data.ref和

2熱度

1回答

爲什麼輸出cout << setprecision（2）<< 0.999是1而不是1.0？

的顯著數字是2 爲什麼的 cout << setprecision(2) << 0.999 << endl;` 輸出爲1，而不是1.0？

1熱度

1回答

r中的星級意義水平

嗨，這是r中顯着性測試的定義。如果你在r中進行線性迴歸，這是r回退的。簽字。代碼：0''0.001''0.01''0.05'。'0.1''1 我的問題是***什麼是顯着性水平？它不能是0. **意味着顯着性水平爲0.1 ％和*是1％的顯着性水平。是在5％的水平。是嗎？

1熱度

1回答

四捨五入到的在JavaScript顯著位數的任意數量的不工作

我嘗試下面的示例代碼但此功能未像 sigFigs（24730790,3）返回24699999.999999996 和sigFigs工作輸入（ 4.7152e-26,3）返回：4.7200000000000004e-26 如果有人有工作示例，請分享。謝謝。

0熱度

3回答

如何在保留sig figs的同時將Mathematica列表作爲固定寬度的文本文件導出？

我的第一個問題是如何使用Mathematica以固定寬度格式導出數據？我的第二個問題是我如何保留最正確的0。例如，我想保存{{1.12300, 11.12, 111.123},{2.1, 22.123, 222}}到文本文件作爲 1.12300 11.12 111.123 2.10 22.123 222.00 在細節中，如果數量與小於2位的尾數，它通過零填充匹配2，而如果它它的尾數超過2

1熱度

1回答

的Lua顯著數字

我試圖做的是將數字四捨五入到一定數量的用戶給出顯著數字，例如功能，如果用戶給我多少 234.235534 5顯著數字，功能應返回234.24