decimal

1熱度

1回答

我試圖計算指數的自然對數加上數組的中值，但浮點數的精度必須在2000或答案將始終爲0. 這是我到目前爲止有： import bigfloat x = np.array([-15349.79, -15266.66, -15242.86]) answer = np.median(x) - bigfloat.log(np.mean(bigfloat.exp(x, precision(2000))

2熱度

6回答

bash：oneliner將輸出中的十六進制數字轉換爲小數

有人知道一個輸入可以輸入到bash中的一個輸入符號，用於匹配和轉換所有出現的十六進制數字並保持所有其他文本不變？也許匹配這可能是一個十六進制應通過正則表達式以某種方式轉換而任意的輸出，即 /(0x)?[0-9a-fA-F]{5,}/ 領先0x不得neccessary，但也可以正確處理可以有假陽性，如果不是指定的最小長度的數字，但不應該是問題目標是找到解決方案，可以使用作爲米UCH爲十

0熱度

1回答

numpy.hstack與字符串和數字刪除小數

我想創建一個表格導出爲CSV。我必須附上不同的數值（帶小數），並且我還想附上一個指標欄。這是由空格'_'和'X'組成的，以幫助我完成數據的後處理。正如你可以在下面的代碼中看到的，雖然我只附加數值的小數是存在的，而如果我追加字符串列的小數值消失。我想我也會使用數值作爲指標列，但我想了解這種行爲。是否可以附加字符串列和數值避免消除小數？ >>> c = np.hstack((b,error_per

1熱度

2回答

這個二進制到十進制的程序是否正確？

#include <stdio.h> #include <math.h> int main() { long long int bin; int dec=0,i; scanf("%lld", &bin); for(i=0; bin!=0; i++){ if(bin%10==0 || bin%10==1){ dec+=(bi

0熱度

1回答

我怎樣才能得到這個值到2位小數？

dub = Application.Sum（wb.Sheets（「Sheet1」）。range（「A：A」））我試過.numberformat「0.00」並將變量類型設置爲double，但沒有運氣。在此先感謝。

-2熱度

1回答

DB2將轉換爲DECIMAL

我試圖將一個數字轉換爲DECIMAL（10,2）。如果我理解的很好，像「1234567890」這樣的數字應該是有效的 DECIMAL（10,2）。但是當我嘗試投它，它會返回一個錯誤-413：「溢出或下溢OCCURRED過程中的數字數據類型轉換」這是SQL： select CAST(1234567890 AS DECIMAL(10,2)) from SYSIBM.SYSDUMMY1; 依

0熱度

2回答

SQL長十進制值比較

因此，我有兩個相同的值，它們是具有完全相同長度的和函數的結果（不進行舍入）。（更新，數據類型爲float） _1 = 29.9539194336501 _2 = 29.9539194336501 我遇到的問題是，當我爲_1 = VALUE_2做一個IF語句，它出現爲FALSE。 _1： SELECT SUM([INVN_DOL])/SUM([AVG_DLY_SLS_LST_35_DYS]) en

0熱度

2回答

根據小數位數小幅增加值

我想根據小數位數稍微增加一個值。例如，如果值是1.2餘將由0.1增加它，通過12.345 0.001，由12.345678 0.000001等我現在有使用的，如果一個鏈長的實施方案中，否則，如果。我知道這不是最有效的方式，可以使用循環，但我不確定如何構建循環。我嘗試使用PHP substr_replace函數，但我無法得到它的工作。有沒有另一種方法可以構造一個循環來減少我的代碼行並提高效率？

-1熱度

2回答

如何在一位小數後結束，但保留兩列？

問題是要求我們將它保留在兩列而不是一排行中。我嘗試了整個System.out.printf("%.2f")，但正如我所說，它使得數字連續而不是列出來。請儘量保持初學者水平，因爲這只是我的第二個CompSci課程。謝謝！ System.out.println("Kilograms Pounds"); final double pounds = 2.2; for (int kilo =

2熱度

3回答

什麼是M後綴的文字小數相關

decimal l = 50.0M; 我看到其他的答案表明M是明確聲明的類型爲十進制 - What does the M stand for in C# Decimal literal notation? 然而，當類型，變量的，是專說，爲什麼要有後綴？我可以看到當類型，可變的，不指定，如後綴的相關性： var l = 50.0M