decimal

    0熱度

    2回答

    我有這個疑問: UPDATE table_name SET field_1 = field_1 +100, field_2 = field_2 +100, field_3 = field_3 +100 WHERE id = 1 LIMIT 1; 哪裏Field_1是有規律的整數,Field_2是十進制(15,6)和Field_3是雙(15,6)。 當我從p

    1熱度

    2回答

    Sybase ODBC驅動程序在小數數據類型方面存在問題。 例如,當應用程序試圖在數據庫中保存一個十進制值出現此錯誤:當你試圖通過小數參數的存儲過程時 ERROR [22018] [DataDirect][ODBC Sybase Wire Protocol driver][SQL Server]Implicit conversion from datatype 'VARCHAR' to 'DECI

    18熱度

    5回答

    我剛剛開始學習C#,並且我陷入了非常基本的東西。 對於我的第一個「應用程序」,我想我會選擇一些簡單的東西,所以我決定使用BMI計算器。 BMI計算成一個十進制類型,我現在試圖在switch語句中使用,但是十進制不能用在開關中? 什麼是這種情況的C#解決方案: decimal bmi = calculate_bmi(h, w); switch (bmi) { ca

    4熱度

    2回答

    我正在尋找一種簡單的方法來解碼使用C#以Decimal64格式(此處描述:http://en.wikipedia.org/wiki/Decimal64_floating-point_format)存儲的數據。 有什麼想法?

    1熱度

    6回答

    可能重複: Why does 99.99/100 = 0.9998999999999999 Dealing with accuracy problems in floating-point numbers 我在PHP和JavaScript看到這個問題。我有這個號碼:float 0.699 如果我這樣做: 0.699×100 = 69.89999999999999 爲什麼呢? 編輯 round(0.

    0熱度

    1回答

    來計算一些經度和緯度數值我需要更多的小數位,比如mysql是可以做到的。 例如與MySQL我得到這樣的結果: cos(RADIANS(47.685618)) = 0.67319814951254 隨着PHP 5.2我只得到: cos(deg2rad(47.685618)) = 0.673198149513 兩位小數短,但我需要他們。 我知道我還可以做calulation與MySQL,但在我

    2熱度

    1回答

    我有一個int(11)列用於存儲錢。我閱讀了一些關於SO的答案,似乎我只需要將其更新爲decimal (19,4)數據類型。 在我實際進行轉換之前,我應該知道哪些陷阱?我的應用程序是在PHP/Zend中,我沒有使用ORM,所以我懷疑我需要更新任何類來一致地標識數據類型。

    3熱度

    2回答

    我的一位朋友表示,他們在使用decimal列存儲貨幣格式(如保存1000.00這會導致它被存儲爲999.99)方面經歷過古怪事件。 但是,我剛剛測試和1000.00存儲爲1000.0000在decimal(19,4)/MySQL 5。任何人都可以提供洞察,瞭解他們爲什麼會遇到問題?也許這是一箇舊的MySQL錯誤,在將其保存到數據庫之前,應用程序端的計算不正確? 這是爲ROI字段,我存儲的貨幣價值可

    5熱度

    3回答

    爲什麼JavaScript函數調用isNaN(123。)返回false? (注意123後的點(。))。這是一個普遍接受的數字還是會導致下游的錯誤? 我使用isNaN以及分割來驗證值是否是有效的小數。 isNaN是否存在跨瀏覽器問題?我應該使用定製的實現嗎? 謝謝。

    6熱度

    2回答

    很多關於float和double準確性問題的答案建議使用金額爲decimal。這是有效的,因爲今天除MGA和MRO之外的所有貨幣都是十進制的,而那些具有1/5的亞單位因此仍然是小數點。 但是當價格在1/16美元時,美國股票市場使用的軟件如何?二進制數據類型的準確性不會是一個問題,對嗎? 更進一步,1971年以前的英國會計軟件是如何處理英鎊,先令和便士的?他們的COBOL版本是否有特殊的PIC條款?