我試圖把兩個數字,並讓他們的平方。使用幾個數字一些工作,但這一個給我的問題pow(.0305,2)。使用計算器我得到了一個答案:0.093025;但是當我使用java時,我得到了一個答案:9.609999999999999E-4。我需要.0305因爲我正在3.05/100這是.0305。不準確java.pow()導致
我已經通過試驗發現,如果我做.pow(.305,2),那不給我我需要的答案,但後來我就一定得與3.05/100。
編輯:(添加代碼)
double weight=3.05;
double TapeLength=100.00;
double ftwt= weight/TapeLength; this gives me: 0.093025
double ftwt= Math.pow(ftwt,2); //this gives me: 9.3025E-4
一切澆鑄成雙。
http://floating-point-gui.de/ –
請出示演示該問題的一些示例代碼。 –
.0305對2的冪不是0.093025,所以我不相信你在計算器上得到了這個結果。 –