decimal

1熱度

1回答

任何人都可以解釋爲什麼我得到以下結果？ Dim badDecimal As Decimal = 54.50327999999999 Dim expectedDecimal As Decimal = CDec("54.50327999999999") badDecimal = 54.50328D，while expectedDecimal = 54.50327999999999D。我的理解是b

27熱度

3回答

是否有JavaScript的十進制數學庫？

有沒有一個成熟的庫，可以在JavaScript中進行基於十進制的數學運算，可能是任意精度的？編輯：我希望這個信息參考頁上的浮點相關的問題和替代使用時二進制浮點不合適：http://floating-point-gui.de/

1熱度

1回答

爲什麼我無法將整數值輸入到小數字段中？

我想寫一個SQL Server表的insert語句插入值1到一個小數字段。該字段是十進制類型（10,10），據我所知，這意味着它最多可以有10個數字，並且這些數字中的10個可以在小數點後面。但是，當我嘗試運行INSERT語句，我得到了以下錯誤：如果我更改字段爲十進制（11，10）的數據類型 Arithmetic overflow error converting int to data type

1熱度

4回答

在不同的操作系統上定義十進制數，如何理解C＃是否使用點或逗號

我寫了一個小程序，其中程序在不同的操作系統上工作方式不同（xp，win7）問題是程序讀取一些浮點數字如2,686。一個操作系統（win7）將其轉換爲float爲真，但在xp上出錯並打印出2686.如何理解操作系統使用十進制數字的哪個符號？謝謝。

4熱度

4回答

小數分鐘

嗨，不知道這是否是合適的論壇，但沒有人知道將小數時間轉換爲小時和分鐘的公式嗎？ IE 1.4 = 1小時24mins 感謝您的幫助和抱歉，如果錯誤的論壇

2熱度

1回答

在Informix中將浮點數轉換爲十進制

我有一個帶有十進制類型的列表。有一個表示表的ESQL/C結構。它有一個十進制類型的成員。對於同一張表，我也有一個正常的C結構。上述字段的類型是一個浮點數。由於我們使用memcpy將數據從ESQL/C結構複製到C結構，因此存在浮點數轉換十進制的問題。當我搜索Informix ESQL/C程序員手冊時，找不到可以執行此操作的任何函數。 Google搜索引導我進入deccvflt（）函數。該函數從浮點

0熱度

2回答

vb.net什麼是顯示給定的最大長度的小數的好方法

我正在寫一個網格視圖的自定義總計方法。我總計相當大的數字，所以我想用小數來得到總數。問題是我需要控制總數的最大長度。爲了解決這個問題，我開始使用float，但它似乎不支持足夠大的數字，我在總計列（1.551538E + 07）中得到了這個。那麼是否有一些格式化的字符串可以用在.ToString（）中，以保證我在整個字段中再也找不到更多的X字符了？請記住我總計整數和小數。

3熱度

2回答

使用XSLT將字符串轉換爲數字

有一項任務用於輸出使用XSLT從數據庫中獲取的某些數據。應用程序當前的語言環境是ru_RU，因此小數點分隔符是逗號。它看起來像 <data> <row> <date value="28.04.2010"/> <clicks value="281"/> <depth value="1,7"/> <row> <row> <date

1熱度

1回答

IIS 7 - 確定小數符號

我的IIS 7服務器使用C＃.NET代碼文件從MS SQL數據庫（在另一臺計算機上）讀取數據並將其呈現在Web上。我之前做過類似的發帖，但問題已經重現，我無法修復。在這方面，我在運行IIS 7的挪威語Windows服務器上遇到了問題。它從數據庫讀取列，它返回一些帶有小數點的座標。在數據庫中，我設法通過更改窗口設置將小數點符號從挪威默認（逗號）更改爲句點。我在運行IIS 7的Windows 20

1熱度

1回答

C中的小數點分隔符＃

我剛剛提出了一個應用程序，其目的是使用三條規則查找x結果。它運行良好，但一切都有一個小問題。我正在使用WinXP歐洲西班牙語版本。衆所周知，在許多歐洲國家，小數點由「，」逗號改變。當我使用我的應用程序時，事實證明，當我按下我的鍵盤的數字鍵盤上的點鍵時，我的應用程序不會將它視爲正常的小數點，並且會忽略它...所以我需要手動按下逗號鍵，這樣可以給我正確的答案。我該如何解決這個問題？