3
在使用fit框架檢查結果時,是否有任何處理浮點值的良好/最佳做法?FIT測試中的浮點精度
我們的應用程序做了很多計算。在大多數情況下,檢查值超過6或8位數的精度沒有任何意義。所以我想指定比較預期值和實際值時使用的精度。
我的蠻力解決方案將設置一個精度值,然後比較包含測試用例的ColumnFixture中的值。
這將導致類似:
!|info.fitnesse.fixturegallery.ColumnFixtureTest|
|firstSummand|secondSummand|precision|expectedResult|calculateSumAndCheck()|
|2.1|3.3|0.0001|5.3|true|
這種方法的主要缺點是,我將無法使用合適的比較功能,但寫我自己的。
不錯的主意! 這只是一個問題。我們的結果通常是通過迭代確定的近似值。我們的域專家計算結果通過MS Excel。然後他們得到例如price = 3.45664。然後他們將這個預期的價值輸入到wiki中。然後它們指定精度,即0.01。如果他們被迫將結果編輯爲3.46,將會非常不方便。 所以我thinc我將創建我自己的RoundedDoubleTypeAdapter和RoundedDouble類。 – jens 2009-11-11 06:50:44