4
A
回答
3
關於.NET和更具體的C#,不,System.Decimal
不使用FPU,因爲類型是用軟件模擬的。
另外,System.Decimal
是浮點數,而不是像數據庫中常見的固定精度數。該類型實際上是一個十進制浮點數,它使用10作爲其基址,而不是使用以2爲基數的二進制浮點數(即System.Single
或System.Double
)。如果您嘗試存儲無法精確表示的分數,例如1/3,它仍然具有相同的精度問題。
1
是的,現代語言一般支持浮點數學和整數數學,就是這樣;對固定點,BCD等沒有直接的支持。浮點運算將使用浮點處理器指令完成;現代架構不包含獨立的FPU。
相關問題
- 1. C++數學遊戲十六進制到十進制問題
- 2. 有十進制數字的javascript數學
- 3. 使用十進制或十六進制
- 4. 轉換科學記數法十進制
- 5. 十進制數學錯誤結果
- 6. 的Javascript數學與十進制計算
- 7. 科學記數法到十進制
- 8. 二進制到十進制(數學方式)
- 9. 數學計算十進制到二進制(JAVA)
- 10. 十進制數可以用十進制數加/減嗎?
- 11. 使用限制將十進制轉換爲十六進制
- 12. VBA隱藏十進制和十六進制的負數十進制數
- 13. gcc 4.x不支持x87 FPU數學?
- 14. 轉換科學記數法用PHP爲十進制
- 15. 將八進制數轉換爲十進制和十六進制
- 16. 如何使用十進制?
- 17. 使用.net在fpu硬件中實現哪些數學方法?
- 18. 使用長十進制數的問題
- 19. 十進制數只使用jQuery
- 20. 使用toFixed舍入十進制數
- 21. 使用十進制數字段計算
- 22. 使用十進制數轉換
- 23. 使用javascript捨去十進制數
- 24. 使用ls排序十進制數字
- 25. 使用CarlosAg.ExcelXmlWriter的十進制數字
- 26. 使用INT()與十進制數
- 27. 用於大數字的十進制到十六進制的Python
- 28. 使用Java/javascript的十進制值的數學餘數商計劃
- 29. 如何將十進制數轉換爲十六進制而不使用寫十六進制
- 30. 爲十進制數
我不知道爲什麼'Decimal'使用浮點數?一個128位的定點類型可以保證a + b-a在任何情況下都會產生b或拋出異常,但是對於'Decimal'來說,等式不成立。 – supercat 2014-10-14 03:00:07