我想在「。」之後將浮點型精度從7位減少到6。我試着將數字乘以10,但這不起作用。有任何想法嗎?更改浮點型精度
Q
更改浮點型精度
0
A
回答
2
如果你只是想格式化輸出的數量(即轉換爲字符串),你只需要使用正確的格式字符串:如果你需要做的,對於
13.651234f.ToString("f6"); // Always six decimal places
您的應用程序邏輯,您可能要使用decimal
而不是float
- float
是一個二進制數,所以「十進制」小數位的概念有點偏離。
+0
只是說這不是關於格式化,我正在做一個挑戰,精度應該在點後6位數。 – user3868594 2014-10-17 15:36:45
+0
@ user3868594那麼,浮點數只有二進制精度。小數精度總是會很痛苦。例如,'0.9f'不能用有限的二進制浮點表示。所以,如果你關心小數精度,可以用'decimal'代替。 – Luaan 2014-10-20 08:13:35
相關問題
- 1. 需要更改浮點精度
- 2. 浮點精度
- 3. neo4j csv浮點類型精度已更改
- 4. 與浮點精度
- 5. C++浮點精度
- 6. C#浮點精度
- 7. haskell浮點精度
- 8. XMLSerialization浮點精度
- 9. Java - 將默認浮點常量類型從雙精度型更改爲浮點型
- 10. 雙精度浮點數和其他浮點數精度
- 11. 獲取浮點型IEEE單精度位
- 12. Java中的雙精度浮點型
- 13. 雙精度和單精度浮點數?
- 14. Unity3d浮點精度限制
- 15. python中的浮點精度
- 16. 管理浮點精度
- 17. 爪哇 - 雙精度浮點
- 18. 力竭浮點精度
- 19. 浮點精度格式
- 20. 浮點運算的精度
- 21. 限制浮點精度?
- 22. MongoDB浮點值精度?
- 23. 增加浮點數精度
- 24. SQL設置浮點精度
- 25. IEEE 754和浮點精度
- 26. 本徵浮點精度
- 27. 單精度大端浮點值到Python浮點數(雙精度,大端)
- 28. 從單精度浮點表示轉換爲半精度浮點數
- 29. 雙精度浮點數如何轉換爲單精度浮點格式?
- 30. 浮點數/雙精度浮點數的小範圍,適用於整型(C++,VS2010)
你可以請你出示你的代碼嗎?感覺就像你只需要格式化,但不知道沒有看到你的工作。 – 2014-10-17 14:41:31
可能的重複:http://stackoverflow.com/questions/6356351/formatting-a-float-to-2-decimal-places – 2014-10-17 14:43:44
你真的想要做什麼?向左和向右移動小數點(這是乘以10的任何冪到十進制數,或乘以2的冪到二進制數)不會影響精度。這讓我懷疑你沒有精確地使用術語。你想做什麼 ? – 2014-10-17 14:44:37