我使用Microsoft SQL Server 2008 R2。真正的數據類型精度
當我運行下面的查詢
select * from sys.types where name ='real'
在「精確」專欄中,我發現了價值24
但我在博客那裏說真正的數據類型具有精度只能達到-7閱讀。
我使用Microsoft SQL Server 2008 R2。真正的數據類型精度
當我運行下面的查詢
select * from sys.types where name ='real'
在「精確」專欄中,我發現了價值24
但我在博客那裏說真正的數據類型具有精度只能達到-7閱讀。
所以你的意思是,默認精度爲24,但實際上只接受7.如果是這樣,從哪裏可以知道任何數據類型的實際精度值。 –
請參閱本答案http://stackoverflow.com/a/2057056/311255'24位尾數給你(大約)精度7個十進制數字(因爲2^24〜= 10^7)。' –
謝謝。你能幫我理解,24位尾數是如何轉換成7位精度的十進制數字的。 –
如果你想確切的數字,不要使用'real'(或'double'):http://floating-point-gui.de/ –