precision

2熱度

1回答

Java雙向INDArray丟失精度

我不能將double轉換爲Nd4j.INDArray而不會丟失精度。 double[] weight = new double[]{-0.13404223866376802,-0.11294084872465669,0.11232944517596409,-0.01687720880184701,0.13288394029423414,-0.06916641552096867,0.15188826

java precision nd4j 2017-11-25

---

-3熱度

1回答

如何在不失去精度的情況下使用double作爲函數參數？

我有以下功能，並且我無法更改double類型的參數。 double latitude = coordinate.x; double longitude = coordinate.y; createEPoint(latitude, longitude)); 的瓦爾經度和緯度有大量的小數（35.94777225005756），我需要保持它的精度。我知道我可以使用BigDecimal或其他類，但

java double precision latitude-longitude 2017-10-10

---

2熱度

1回答

tf.round（）到指定精度

tf.round(x)將值x四捨五入爲整數值。 有什麼辦法可以舍入到3位小數位嗎？

tensorflow floating-point rounding precision 2017-10-11

---

-2熱度

1回答

說明在確定是否一個十進制數在基地

當試圖找到我碰到這個傳來了回答，並想知道如果這是真的，爲什麼它是一個有限表示。 https://stackoverflow.com/a/489870/5712298 如果任何人都可以向我解釋或鏈接我到一個頁面解釋它，將是巨大的。

binary floating-point numbers precision base 2017-10-12

---

0熱度

1回答

舍入到小數點後第二位，除非數字是整數C++

我試圖在num中打印2個小數點的Cpp平均值。 avg是float，sum是float,count是int。 目前如果我有10/1例如輸出10.00。我想輸出只是10.如果avg得到值3.1467665例如，它應該顯示爲3.14。 avg = sum/count; std::cout << std::fixed << std::setprecision(2) << avg; 舍入應該只是輸出

c++ floating-point output rounding precision 2017-10-15

---

2熱度

1回答

OpenGL的GLSL是精度影響性能

我的相機有一個問題和對象這是不順利和場景看起來像振動運動，我張貼了這個問題Smooth movement後來我做翻譯和球形插值的線性插值四元數，但問題不解決，7天后我終於解決了這個問題，將溶液的精度，在我的着色器是媒體一旦我將其更改爲高一切工作正常，因爲我知道highp需要12個字節和中只需要8個字節所以這會在的OpenGL ES的情況下，性能影響？

opengl-es glsl precision 2017-10-16

---

2熱度

3回答

Python的數值精度在控制檯 - 怪異

已經進口的數學和小數在3我與第一輸出OK In[39]: Decimal(sqrt(2)) Out[39]: Decimal('1.4142135623730951454746218587388284504413604736328125') 但隨後被 In[40]: Decimal(str(sqrt(2))) Out[40]: Decimal('1.4142135623730951')

python decimal precision 2017-10-16

---

0熱度

2回答

訓練典型深度神經網絡的最佳精度是多少？

我只是研究訓練DNN的最佳精度。我知道，爲了推理，即使是壓縮的8位精度也應該可以工作。對於訓練，我們需要更高精度的數字。 深度學習（fp16，fp32或fp64）的最佳精度是多少？ 我可能會爲此使用tensorflow-gpu。

tensorflow deep-learning precision 2017-10-18

---

2熱度

1回答

爲什麼深度學習不會遇到浮點或數值精度錯誤，如果其大部分訓練都是在平均值0和標準差1的數據上？

對這個問題的啓發： Why do different methods for solving Xc=y in python give different solution when they should not? ，似乎有數值的問題，由於浮動點，反轉矩陣和限制值[-1,1]，我很好奇，現在爲什麼不深的學習不是來自浮遭受或如果大多數訓練數據的平均值爲0和標準差1（假設我假定大部分數據已經被預處理到

neural-network deep-learning precision conv-neural-network gradient-descent 2017-10-21

---

0熱度

3回答

在HackerRank上的JavaScript項目歐拉＃1

我在HackerRank上的項目歐拉＃1的測試用例遇到了一些麻煩，並希望有人在HackerRank有一些JS經驗可以幫助。 下面是我的代碼。據我所知，我無法發現任何明顯的邏輯錯誤，因此，如果有人能夠闡明爲什麼我沒有通過所有測試用例以及爲什麼狀態是「中止調用」，我將不勝感激。上面的所有代碼「忽略此線以上」均由HackerRank提供，不屬於解決方案的一部分。 process.stdin.resume

javascript functional-programming precision 2017-10-22

---