decimal

2熱度

2回答

我想舍入的十進制值。如果小數點後的第一個數字值大於5然後5.5 如果小數點後的第一個數字值小於5然後5.0 例如： 5.457845 = 5.0 5.684575 = 5.5

0熱度

1回答

如何使用公式計算Google表單中的小數點時間？基本上，我有這樣的設置： Gross Pay: 16.63 Total Online: 1.53 (Represents 1 hour 53 minutes) Hourly Rate: 10.87 (Just a formula that divides gross pay from total online) 這是不正確，因爲1小時53分

0熱度

1回答

如何處理十進制運算錯誤？

我有值的縮放功能，這看起來是這樣的： r = a/b*c; 其中R，A，B，C是小數。大部分的時間，它工作正常，但有時我得到這樣的： 1.5M/3.09785668M*3.09785668M => 1.5000000000000000000000000001M 這對我來說是一個問題，因爲在我的計算時間，錯誤升級。什麼是檢測和消除這類錯誤的最佳方法？

0熱度

2回答

獲取高達Python中的精度n個小數點結果

我有有一些複雜的數學運算導致的結果極少量像0.000028等應用程序現在，如果我在JavaScript執行一些計算像（1073741824分之29631）它給我導致如0.000027596019208431244而在用數據類型float蟒相同的計算給我0.0。我怎樣才能提高小數點的Python中

-1熱度

1回答

爲什麼小於千位的csv文件中的值無法在Excel中顯示2位小數，而是在記事本++中顯示？

csv文件由java程序生成。該文件我打開記事本++，值在2個小數位，如上圖所示。但是，當我在Excel中打開文件時，小於千位的某些值不是小數點後兩位格式。爲什麼它的行爲如此？代碼就像。 DecimalFormatSymbols symbols = new DecimalFormatSymbols(); symbols.setDecimalSeparator('.');

0熱度

1回答

使用petapoco將十進制插入到數據庫時出錯

我在使用PetaPoco將一個十進制值插入數據庫時遇到了問題。在我的模型我有廣告載體： [Column("Price")] public decimal PriceTotal { get; set; } ，並在DATABSE相關列Price的類型是decimal(18, 2) 的當我做插件： public void InsertModel(MyViewModel model)

2熱度

2回答

如何落地，如果低於一分錢，否則不要

什麼是檢查價值是一分錢還是低於最佳方式。如果返回0，則返回一個Math.floored值。如果price_usd類似00.0031，則下面的代碼將返回值0.01。應該返回的是0。但是，如果值爲00.56它應該返回.56美分這是現在。 const rounder = (balance, price_usd) => round(multiply(balance, price_usd)); co

-2熱度

1回答

Matlab：如何防止Matlab在數組中切割小數？

是否有可能在逗號後有16位小數的數組中獲得此值？如下圖所示，我的工作區被切割得很差。親切的問候！ format long; startYCoordinateNorthEast=([50.93952193697642, 6.99745722361763]); here you can see the array, cut to 4 decimals but I need 16

0熱度

1回答

Python - 試圖計算pi的數字，並且在十進制後無法獲得48位數字

我正在嘗試編寫一個程序來使用python中的Nilakantha系列來計算pi的數字。每次運行它都不會給我超過50個小數。仍然學習python，所以任何幫助表示讚賞。 # Program using Nilakantha Series to crunch digits of pi from math import * from decimal import * getcontext().p

3熱度

1回答

PostgreSQL中

我與18位小數號碼的工作劃分大的數字，我已經決定要保存在數據庫作爲「NUMERIC（36）」，數字現在我想通過以下操作師呈現它 select (5032345678912345678::decimal/power(10, 18)::decimal)::decimal(36,18) 結果 5.032345678912345700 預期的結果 5.032345678912345678 它工作，如