decimal

1熱度

4回答

我有一個表有兩個十進制（18,0）字段。我在這張表中插入兩個十進制值。例如，1.11 當我從表中（不帶管型）選擇，我得到1 我失去了所有的Percision，我不知道爲什麼。插入到測試值（153， '測試'， '測試'，1，1，1.11，1.11）選擇從TEST *和它們是1和1，而不是1.11,1.11 有任何想法嗎？

13熱度

3回答

蟒蛇小數比較

蟒蛇小數比較 >>> from decimal import Decimal >>> Decimal('1.0') > 2.0 True 我期待它正確地轉換2.0，但讀通PEP 327我知道有一些理由不implictly轉換浮到小數點後，但不應該在情況下，應該提高類型錯誤，因爲在這種情況下確實 >>> Decimal('1.0') + 2.0 Traceback (most recent

17熱度

2回答

PHP/MySQL：最佳貨幣操作/存儲操作？

因此，我打算製作一個處理大量金錢的應用程序（PHP/MySQL），我正在考慮如何存儲和操作這些錢，指的是PHP浮點數據類型和MySQL小數。我想到了兩種選擇。其中之一是以整數美分格式（$ dollars * 100）操作和存儲貨幣，以便不處理浮點數並將其作爲整數存儲在數據庫中。另一個是以小數點存儲在數據庫中，並使用PHP數學公式計算。所以我整夜搜索了一下，找出哪個是最好的選擇，沒有找到明確的答

13熱度

9回答

C/C++計算小數位數？

可以說來自用戶的輸入是一個十進制數，例如。 5. （有4位十進制數字）。它可以自由存儲（int，double）等。是否有任何聰明（或非常簡單）的方式來找出多少小數的數字？（有點像這個問題，你怎麼通過掩蓋最後一點發現一個數字是偶數或奇數）。

59熱度

4回答

爲什麼我不能將int作爲小數來取代？

我有一個IDataRecord reader我正在檢索小數從如下：「指定的轉換無效」 decimal d = (decimal)reader[0]; 出於某種原因，這將引發一個無效的轉換異常說，當我做reader[0].GetType()它告訴我，它是一個Int32。據我所知，這應該不是一個問題.... 我已經測試了這一點，這段代碼工作得很好。 int i = 3750; decimal

41熱度

7回答

將字符串轉換爲Python中的十進制整數

我在Python中有一個格式爲'nn.nnnnn'的字符串，我想將它轉換爲整數。直接轉換失敗： >>> s = '23.45678' >>> i = int(s) Traceback (most recent call last): File "<stdin>", line 1, in <module> ValueError: invalid literal for int()

2熱度

3回答

dotNet十進制類型容易出現二進制比較錯誤嗎？

一個錯誤我偶然發現每隔數月是這一個： double x = 19.08; double y = 2.01; double result = 21.09; if (x + y == result) { MessageBox.Show("x equals y"); } else { Me

7熱度

3回答

有什麼辦法可以在Python中得到一個小數部分的重複小數部分？

我正在使用Python的十進制模塊使用分數，我想只得到某個分數的重複部分。例如：如果我有1/3我想得到3，如果我有1/7我想得到142857.是否有任何標準函數來做到這一點？

57熱度

7回答

調整小數精度，.NET

在C＃中這些線 decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); Console.WriteLi

1熱度

3回答

十進制格式不捨入.net

昨天我詢問this general question關於小數及其內部精度。這是關於我試圖解決的場景的一個具體問題。我有SqlServer中鍵入的列 - 小數（18,6）。當我獲取這些值時，創建的.net小數與數據庫中的精度匹配。他們是這樣的： 1.100000 0.960000 0.939000 0.844400 0.912340 我需要根據這些規則來呈現（的ToString）這些