4
從以前的問題中，有人指出Excel使用64位（8字節）雙精度浮動。Excel Floating Point Arihmetic - 它實際使用的是什麼類型
這是否正確 - 有沒有這方面的材料？
我正在嘗試關閉數字，這是殺了我！
A
回答
4
根據此article是的，它使用64位雙精度浮點數。本文還介紹了與此格式相關的舍入錯誤等。
3
看一看
在精密
甲浮點數存儲在 二進制三個部分65位 範圍內的部分中：尾數，符號，指數和 尾數。
這裏是另一篇文章
Understanding Floating Point Precision, aka 「Why does Excel Give Me Seemingly Wrong Answers?」
看一看的浮點數
部分 結構相關問題
- 1. C++「Floating Point Enum」
- 2. Flooring floating-point modulo
- 3. Arm Assembly Floating Point
- 4. Binary Floating Point Addition
- 5. Android - 什麼是實際使用 - 類別
- 6. 什麼是monoids的實際使用？
- 7. has_many關係的實際類是什麼？
- 8. 什麼是類別的實際使用而不是繼承？
- 9. 什麼是SVN實際使用mergeinfo？
- 10. 什麼是createDataPartition實際使用列表
- 11. C++ Floating-point van Emde Boas（vEB）Priority Queue
- 12. 什麼是一些不尋常的SQL Server數據類型的實際使用？
- 13. 在RSpec中指定類型的實際影響是什麼？
- 14. DriverManager.registerDriver（）方法的實際參數類型是什麼？
- 15. XNA - 爲什麼它使用Vector2而不是Point？
- 16. 模型在MVC中的用法是什麼？它實際上有用嗎？
- 17. GoLang類型開關中變量「t」的實際類型是什麼？
- 18. 對事件使用對象類型而不是實際類型的原因是什麼？
- 19. 什麼是視圖引擎？它實際上做了什麼？
- 20. servicestack userauthid是字符串的類型，但它實際上是int
- 21. 爲什麼Resharper建議我使用var而不是實際類型？
- 22. 什麼是數據類型，它是如何實現的？
- 23. Java中實際是什麼？
- 24. 成員隱藏，什麼是它的實際用途
- 25. toContain（）的實際用途是什麼？
- 26. 什麼是argsort）的實際應用（
- 27. 什麼是克隆的實際用法
- 28. 什麼是System.Transactions的實際用途？
- 29. Socket.ExclusiveAddressUse的實際用途是什麼？
- 30. Android NDK的實際用途是什麼？