奇怪的運算精度

Question

可能重複：
Is JavaScript's Math broken?

我在ocaml的運算精度源泉奇怪的問題。看：

# 1.1+.2.2;; 
- : float = 3.30000000000000027 

它只發生在我做的時候：something.1 + something.2。有人可以試試嗎？

Answer 1

這是使用浮點值的現實。儘管1.1用兩位數表示完全以十進制表示，但它需要無限數量的二進制數字來表示該值。由於您正在以有限數量的位存儲1.1二進制文件，因此會發生舍入錯誤。

Answer 2

Ocaml浮點數是IEEE754雙精度數字。你在其他編程語言中會有相同的行爲。也許你想漂浮bignums（Ocaml不提供）。

計算機總是有限的精度本機數字（很像計算器）。