我測試了一些我的代碼,在javascript中我加了.1 + .2,它給了我.30000000000000004而不是.3。我不明白這一點。 但是當我添加.1 + .3時,它給了我.4。我google了一下,找到了一些關於Double Precision的內容。但我不知道它是什麼。幫助在雙精度加
Q
幫助在雙精度加
7
A
回答
14
這裏的強制性鏈接:What Every Computer Scientist Should Know About Floating-Point Arithmetic
基本上,有一些不能在大多數計算機使用的浮點格式精確表示,許多基地10個號碼,所以你會得到像你強調的那些問題。
1
浮點數具有有限的精度,因爲數字存儲在有限數量的位中。
您嘗試存儲的編號無法準確存儲,因此使用近似值。
What Every Computer Scientist Should Know About Floating-Point Arithmetic。
2
如果你不能保持清醒狀態每個計算機科學家應該知道的關於浮點運算的問題,請嘗試改爲javascript-Rounding in JavaScript。
相關問題
- 1. 函數雙精度()Python請求助手
- 2. 單精度和雙精度
- 3. 雙精度10點精度
- 4. 添加雙精度丟失
- 5. 增加雙精度值
- 6. 司在雙精度
- 7. 在JAVA雙精度
- 8. IEEE雙精度
- 9. 雙倍精度
- 10. 雙精度CUFFT
- 11. 雙精度
- 12. 雙精度值
- 13. 雙精度?
- 14. PG :: UndefinedFunction:ERROR:函數get_nearest_vertex_to_lon_lat(雙精度,雙精度)不存在
- 15. 功能科爾(雙精度,雙精度)不存在 - PostgreSQL的
- 16. 精確計算雙精度
- 17. 雙緩衝幫助
- 18. 以精確度打印雙精度
- 19. 雙精度和單精度浮點數?
- 20. java中雙精度乘法的精度?
- 21. 區分單精度和雙精度
- 22. 從雙精度轉換爲單精度
- 23. 輸出精度高於雙精度
- 24. DISLIN雙精度庫
- 25. 雙精度混淆?
- 26. 雙精度丟失
- 27. .NET:雙精度值
- 28. C#高雙精度
- 29. 蜂巢 - 雙精度
- 30. Java的雙精度
+1不錯的文章:) – alex 2011-05-23 06:26:59
:)我想我已經閱讀過20%的一百遍......有一天我可以保持清醒。 – sje397 2011-05-23 06:28:25
它是一篇大文章,如果你讀過它,你能告訴我這個本質嗎? – 2011-05-25 08:58:44