15
如果分割2/3
,它應該返回0.66666666666666667
。相反,我得到了雙精度型的0.0
和十進制的0
。
我的目的是劃分甚至(例如2/3
)和總是1到最近。
任何幫助?
如果分割2/3
,它應該返回0.66666666666666667
。相反,我得到了雙精度型的0.0
和十進制的0
。
我的目的是劃分甚至(例如2/3
)和總是1到最近。
任何幫助?
你正在做整數除法,從它的聲音。試試這個:
decimal result = 2.0/3.0;
甚至強制其小數爲所有的操作:
decimal result = 2.0m/3.0m;
這應該給你一個結果,更喜歡你的期望。
做2/3是整數除法不會返回除法的小數點。要得到.666666667,你需要做2.0/3.0這兩個雙打來獲得預期的答案。
確實是它的整數,dooh沒有想到.... thanx,標記爲第一個答案 – 2010-04-08 01:47:44