Python的「float」類型和PostgreSQL的基於相同C實現的「雙精度」類型?這可能不是真正的潛在的問題在這裏,但無論如何,這裏就是我得到的,當我嘗試在兩種環境下操縱小的數字:Python「float」和PostgreSQL「雙精度」的浮點數
關於Python(2.7.2 GCC 4.2.1,如果是相關的):
>>> float('1e-310')
1e-310
在PostgreSQL上(9.1.1):
postgres# select 1e-310::double precision;
ERROR: "0.0000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000001" is out of range for type double precision
我的理解是,Python的浮子式 「處理」 1E-310,而PostgreSQL的雙精度型則沒有。 Python和PostgreSQL文檔分別是「float」和「double precision」類型,指的是IEEE 754標準,它應該在「大多數平臺」上實現(我在OS X Lion 10.7.3上) 。
任何人都可以解釋這裏發生了什麼?並給我一個解決方案,我想例如「減少」Python精度,以便我可以通過Django FloatField在我的數據庫中插入浮點數。 (完整的用例是我正在讀取文件中的數字,然後插入它們)。
一些(也許是有趣)的更多信息,在Python:
>>> sys.float_info
sys.float_info(max=1.7976931348623157e+308, max_exp=1024, max_10_exp=308, min=2.2250738585072014e-308, min_exp=-1021, min_10_exp=-307, dig=15, mant_dig=53, epsilon=2.220446049250313e-16, radix=2, rounds=1)
>>> 1e-320.__sizeof__()
24
我真的不明白的第二個。
我推測,Postgres的被拒絕給它,因爲.1不能完全用二進制表示(尾數)。 – bdares 2012-03-04 16:27:46
@bdares我不知道我的理解。 「select 1e-100 :: double precision;」在Postgres中工作正常;我不認爲這是一個正確的問題,而是一個精確的問題 – Arthur 2012-03-04 16:51:51