2017-10-16 110 views
0

我想將科學記數法中的數字投射到蜂巢中的十進制數,但是我得到了錯誤的輸出。我在哪裏做錯了..鑄造科學數到蜂巢中的十進制

以下是我的查詢來測試。

select cast(-1.36666E2 as decimal(6,1)) 

我期待的輸出爲-1.36666。但我得到了-136.7

+0

輸出無誤。如果你期望-1.36666然後修剪E2 – Valli

+0

可能是我的精確度是錯誤的。有沒有任何修剪? –

+0

哪一個是錯的? -1.36666E2的值是-136.66 – Valli

回答

1

DECIMAL(precision,scale)是數據類型。

精度是一個數字中的位數。 比例是數字中小數點右側的位數。

例如,數136.7具有爲4的精度以及1 因此,如果你有1.36666,精度爲6分和5

select cast(-1.36666E2 as decimal(6,3)) 

-1.36666E2一個標尺-1.36666 * 10^2。這將返回-136.666。輸入-1.36666E2