我有有一些複雜的數學運算導致的結果極少量像0.000028等應用程序現在,如果我在JavaScript執行一些計算像(1073741824分之29631)它給我導致如0.000027596019208431244而在用數據類型float蟒相同的計算給我0.0。我怎樣才能提高小數點的Python中獲取高達Python中的精度n個小數點結果
0
A
回答
5
的問題不是缺少小數點,這是在Python 2整數除法產生一個整數結果。這意味着,1073741824分之29631收益0而不是浮動你期望。要解決這個問題,你可以使用一個浮動的操作數:
>>> 29631.0/1073741824
2.7596019208431244e-05
這changed in Python 3,其中除法運算做意料之中的事情。您可以使用from __future__
進口turn on the new behavior in Python 2:
>>> from __future__ import division
>>> 29631/1073741824
2.7596019208431244e-05
-1
如果你正在使用Python 3.x的結果的數量,你應該試試這個:
print(str(float(29631)/1073741824))
+1
在Python 3不應該是必要的,因爲'29631/1073741824'將計算預期的(浮動)的結果。 – user4815162342
相關問題
- 1. 高精度打印結果(浮點數)
- 2. 獲取整數的第n位精度
- 3. 如何獲得python的小數精度?
- 4. 獲取雙精度值的小數位
- 5. Python中有一個函數來獲取任意精度數的大小嗎?
- 6. Swift中的高精度浮點數
- 7. Haskell中的高精度浮點數?
- 8. Python:高精度time.sleep
- 9. 獲取隨機行中如果全文結果小於N行
- 10. 正則表達式精度5和刻度2的小數點
- 11. python中的浮點精度
- 12. 正則表達式獲取組N個結果
- 13. 高精度GWT的NumberFormat問題小數
- 14. C#中的結果不是小數點後的精確值
- 15. python中精度浮點數的丟失
- 16. Python數組中的浮點精度
- 17. 從字符串讀取浮點值高達6精度
- 18. 精度高達1克
- 19. 獲取小數位的精確精度從雙在.net 3.5
- 20. 範圍縮減精度不高的單精度浮點數
- 21. 在C,linux中獲取RAM大小,非精確結果
- 22. 如何獲得小數n位精度在C#程序丕
- 23. Python的小數精度與C的小數精度相比如何?
- 24. PostGIS的ST_D結果精度
- 25. 在Python與數精度浮點數格式滯留小數
- 26. Matlab讀取精度更高的數字
- 27. Python的float精度約小數
- 28. Python:允許精度很小的數字?
- 29. 小數精度
- 30. plot:軸上的小數點精度
使用'decimal':https://docs.python.org/3.6/library/decimal.html,其中任意精度可以設置。 – jOOsko