Excel VBA奇數學結果

我遇到了一個案例選擇中的一些邏輯語句的問題。但是，我通過excel追蹤了一些奇怪的數學。下面的公式在立即窗口中評估爲True，當我期望它爲假時Excel VBA奇數學結果

?(0.09 /0.1)<0.9

任何人都可以解釋爲什麼會這樣？

2012-11-08 Michael

爲什麼有''你的函數之前？（從未見過） – CustomX

@ t.thielemans：'？'是'print'語句。 @Michael：在計算機上讀取二進制浮點數。這是一個四捨五入的問題。 – stephan

http://www.cpearson.com/Excel/rounding.htm這裏（浮點部分）是討論浮點舍入的好鏈接。如果你使用？一輪（（0.09/0.1），1）<0.9結果是正確的 – scott

Floating point arithmetic可能在Excel中給出不準確的結果。

這裏是一個related question在這裏StackOverflow。

@scott在他的評論的解決方案：

3210

2012-11-08 16:07:32

這可能是因爲vb將表達式轉換爲解析爲零的整數。請嘗試

? CDBL((0.09/0.1) < 0.9

2012-11-08 15:25:21 Ahmad

謝謝，但那不是。仍然解決爲真。 – Michael

回答