2011-09-26 82 views
0

所有,數值精度 - C#

對於1十億十進制值從SQL Server被檢索,其中相關的數據類型是數字(28,10),我遇到了轉換溢出異常。從MSDN:

.NET框架decimal數據類型最多允許28個顯著數字

我需要澄清,如果數字在這裏指的是二進制形式或十進制形式本身?

+0

它指的是小數形式,字符數,SQL允許38個字符wheter .NET將只有28 – cichy

+0

聽起來像是你有比你希望一個更復雜的問題。如何完成轉換? – Chris

+0

@Chris:的確如此。我首先想到的是導致轉換失敗的二進制表示。現在需要更多的挖掘,會發布我的發現 –

回答

2

的限制是由十進制表示施加和28個顯著數字指28位十進制數字。

1

它的小數位數,這將接受28位最大。

1

在SQL Server爲數字和小數這個數據類型定義了一個最大的28位十進制數字(精度)與小數點(比例)的右側最大10位小數。