floating-point-precision

2熱度

1回答

Numpy sum函數返回1.67772e + 07

我有兩個大的（432 * 136 * 136 * 46）'numpy.ndarray'H1和H2，其中包含對應於兩個模擬的高度值。當H1和H2具有相同的高度時，我想用1生成一個數組，當它們不具有相同的高度時，則爲0。然後，我想知道我選擇了多少個元素，所以我想計算這個矩陣元素的總和。這裏是我的代碼： H1=np.concatenate([np.around(files1[i].hrtm()[:,0:

python arrays numpy floating-point floating-point-precision 2015-06-19

---

1熱度

1回答

在向量上使用l2規範化的錯誤[Java]

我試圖在使用Java的雙向量上使用l2規範化。 double[] vector = {0.00423823948, 0.00000000000823285934, 0.0000342523505342, 0.000040240234023423, 0, 0}; 現在，如果我用L2正常化 for(double i : vector){ squareVectorSum += i * i;

java vector floating-point normalization floating-point-precision 2015-06-25

---

0熱度

1回答

PHP和零值浮點數

我就麻煩了這一點： $price = 26,20; $increase = 0,00; $decrease = 0,00; $result = ($price + $increase - $decrease); 結果變成了26，而不是26,20 任何想法？ Thnx！

php floating-point-precision 2015-06-25

---

0熱度

1回答

MIPS浮點乘法

我是MIPS編程的新手，並且無法理解如何從用戶讀取兩個浮點數後乘以兩個浮點數。如何將參數轉換爲單精度浮點數？當我運行程序時，它將結果打印爲0.0而不是數字乘以常數。有人可以向我解釋爲什麼它打印0.0而不是正確的數字？ .data prompt: .asciiz "Enter the amount: " newline: .asciiz "\n" float1: .float 0.0

assembly floating-point mips floating-point-precision 2015-06-29

---

-1熱度

1回答

你如何使用雙來獲得期望的結果

我嘗試在java中減去的數字，這一點讓我意外的結果 public class FloatWeird { public static void main(String[] args) { double n = 1; for(int i = 0;i<10;i++) { System.out.println(n);

java casting type-conversion floating-point-precision double-precision 2015-08-22

---

0熱度

1回答

在Java中執行計算時保持Excel精度

如何在Java中執行計算時保持Excel級別的精度。在大多數情況下，使用BigDecimal可以解決這個問題，但在複雜計算中使用BigDecimal時又會如何。 例如，公式本值爲： PV = P /（1 + R）^ n的 現在如果每個這些部件是的BigDecimal值，BigDecimal的不提供一種機制來將BigDecimal提升爲分數。 在此先感謝。

java excel floating-point-precision 2015-07-03

---

1熱度

1回答

如何避免大浮點或雙精度值的舍入？

我的工作應該輸出22258199.5000000這個號碼，我已存儲的結果在雙數據類型的一些C++的問題，當我試圖在使用變量的std ::法院就四捨五入到22258200.0000000，我不知道爲什麼就是打印這發生？有人可以解釋嗎？我能做些什麼來避免這個問題？

c++ floating-point-precision rounding-error 2015-08-26

---

0熱度

5回答

將1234567.1234的雙精度值轉換爲java中的浮點數

我試圖將double轉換爲java中的浮點數。 Double d = 1234567.1234; Float f = d.floatValue(); 我看到f的值是 1234567.1 我不是想打印浮動的字符串值。我只是想知道在將double轉換爲float時不會失去任何精度的最大位數是多少。我可以在java中顯示超過8位有效數字嗎？

java floating-point double floating-point-precision 2015-08-27

---

-2熱度

1回答

控制精度溢出和損失，同時乘以雙打

QUES： 我有大量浮點數（〜萬數），小數點後各自具有6位數字。現在，所有這些數字的乘法將產生大約60,000個數字。但雙倍範圍僅適用於15位數字。輸出產品必須在小數點後有6位精度。 我的方法： 我想10^6這些數字相乘，然後將它們相乘，後來由10^12分他們。 我也想過用這些數字乘以數組來存儲它們的數字，然後把它們轉換成十進制數。但是這也看起來很麻煩並且可能不會產生正確的結果。 有沒有更容易的方

c++ floating-point double floating-point-precision double-precision 2015-07-12

---

2熱度

2回答

稍微不同的浮點數學結果（C去golang）

我正在努力直接在golang開發一個技術指標庫。除其他外，這是一次學習golang的練習。 我一直在驗證我的算法的結果，通過用TA-Lib生成的數據構建測試用例（或者是圍繞TA-Lib的ruby包裝）。 這一直工作得很好，直到我得到了布林帶的實施。我的實現似乎工作正常，但在小數點後14-15位有所不同。 我讀過Floating point math in different programming

go floating-point-precision 2015-09-05

---