2011-07-01 23 views
-1

我已經寫了一個python模塊,用於返回響應時間的神經節。原始時代是這樣的:神經節的Python模塊 - 精度數字被gmond舍入

0.0120489597321

我分析這跟我的Python模塊和返回的時間爲這樣:

return int(response_time) 

如果我運行的Python腳本,它工作正常:

[ DEBUG ]: returning: 0.0120489597321 

但是,gmond(神經節)運行此模塊並將結果舍入爲0.0000。我將它歸類爲uint。

我試着將它作爲一個浮點數返回,並且只要...但這兩種方法都提供了相同的結果。任何人有任何想法嗎?

回答

1

我不確定你要在這裏做什麼。 int(response_time)將返回一個整數,int(0.0120489597321)爲0

0

你可以試試10^6節報告之前乘上號碼,然後繪圖前10^6集節RRA將其分攤。