SUM分欄中的部分，它計算整個列的不同SUM

如果我在各個部分中分別合計一個較大的列並對這些結果進行求和，那麼與合併整個列一次的結果略有不同。SUM分欄中的部分，它計算整個列的不同SUM

該值偏離了〜0.00000000001 - 但是我的條件格式選擇了它並且它不同 - 儘管它們正在求和相同的值。

所有單元格的格式設置爲'數字'。

我不明白爲什麼會發生這種情況 - 有沒有人有一些想法？在處理準確的值時，有沒有類似這樣的事情發生在你身上？

2014-01-15 Robert

它幾乎肯定是由二進制浮點的固有精度問題造成的 –

感謝評論Charles - 如果是這樣的話 - 你知道這個問題的解決方案，還是我會被迫繞過我的值有條件格式化（只檢查〜10個小數點）？ – Robert

如果您正在比較數字，然後使用公差：if（abs（a1-a2）<0.000001），「Equal」，「NotEqual」）調整容差以適合您的情況 –

我在微軟網站上找到了this article。它討論了Excel算術中的侷限性和可能的處理方法。

我無法想象您的輸入數字有15位數的精度，所以最簡單的解決方案可能是將您的乘法/除法/等等舍入。結果（我假設你必須讓你的十進制數字15）。

2014-01-15 11:40:38 theMayer

回答