2
我有一個位掩碼的總和是(2^63)-1
。但是這樣做的結果是不準確的。最後3個數字始終爲0或用e18樣式替換。SQL不準確的數字
簡單實例SQL:
SELECT
POW(2,63), /* 9.223372036854776e18 */
CAST(POW(2,63) AS DECIMAL(65)), /* 9223372036854776000 */
(POW(2,63) - 1), /* 9.223372036854776e18 */
CAST((POW(2,63) - 1) AS DECIMAL(65)) /* 9223372036854776000 */
閱讀關於精度和表示法 –