0
我想投一個小數真正到雙精度,它有以下行爲:鑄造十進制實爲雙精度產生奇怪的行爲
select 2.2::real::double precision;
輸出:
2.20000004768372 (double precision)
如何使其輸出以下內容:
2.2 (double precision)
謝謝
我想投一個小數真正到雙精度,它有以下行爲:鑄造十進制實爲雙精度產生奇怪的行爲
select 2.2::real::double precision;
輸出:
2.20000004768372 (double precision)
如何使其輸出以下內容:
2.2 (double precision)
謝謝
謝謝a_horse_with_no_name,很好的閱讀。
我解決我的問題,通過轉換成文本轉換爲雙前:
select 2.2::real::text::double precision;
輸出:
2.2 (double precision)
併爲未來的參考,如果你必須使用雙精度,你不應該不要把它與real混在一起。
http://floating-point-gui.de/ –
可能重複[浮點數學是否被破壞?](http://stackoverflow.com/questions/588004/is-floating-point-math-broken) –