decimal

0熱度

1回答

即使在使用十進制模塊後，存儲bernoulli數字是給python溢出錯誤

我想在python中的字典中存儲前1000個bernoulli數字。起初，我只是保存了原來的數字。所以我得到了一個溢出錯誤。現在經過以前的答案，我想到了使用十進制模塊。 所以這裏 -5218507479961513801890596392421261361036935624312258325065379143295948300812040703848766095836974598734762472

python integer decimal integer-overflow bernoulli-numbers 2017-11-18

---

0熱度

1回答

如何將十進制（浮點數）轉換爲Swift 3中的二進制文件？ （自編的代碼沒有第三方庫和基礎）

我正在尋找一種簡單的方法來將浮點小數轉換爲二進制浮點Swift 3中。例如，此代碼將小數轉換爲二進制沒有任何問題。 func convertToBinary(decimal: Int) -> String { var n = 0, c = 0, k: [String] = [], fs: String = "" n = decimal while n > 0 {

swift3 binary floating-point decimal 2017-10-15

---

2熱度

3回答

Python的數值精度在控制檯 - 怪異

已經進口的數學和小數在3我與第一輸出OK In[39]: Decimal(sqrt(2)) Out[39]: Decimal('1.4142135623730951454746218587388284504413604736328125') 但隨後被 In[40]: Decimal(str(sqrt(2))) Out[40]: Decimal('1.4142135623730951')

python decimal precision 2017-10-16

---

0熱度

2回答

格式化.NET十進制值取決於它是如何創建

看看下面的C＃代碼是不同的： decimal value1 = 1234M; decimal value2 = 1234.00M; Console.WriteLine(value1 == value2); // True Console.WriteLine(value1); // 1234 Console.WriteLine(value2); // 1234.00 什麼是導致他

c# .net formatting numbers decimal 2017-10-17

---

-1熱度

1回答

在matplotlib

軸線地塊的變化格式的值我在matplotlib新的，我想改變x軸的值的格式，如： X軸：250000 500000等更改爲格式0.250,0.500等。 我能爲此做些什麼？ 謝謝

matplotlib format decimal axis 2017-10-17

---

1熱度

2回答

用小數點分隔問題

我已經經/緯度的數字，如：-4726786457893145 ，但我需要一個小數點分隔符，如：-47.26786457893145 我已經試過「格式」或「對」結構但沒有成功。我甚至轉換爲列表，然後插入一個點，然後再次轉換爲浮點數，但不適用於所有數字，我不知道爲什麼。 我會感謝您的幫助。謝謝。 這裏是我的部分代碼： latitude = [] longitude = [] for i in ra

python decimal separator 2017-10-18

---

0熱度

1回答

使用數組將十進制轉換爲二進制

我是emu8086中的一個begginer，而且我似乎無法修復此代碼。我需要從十進制轉換爲二進制，有時它做得很好，例如，當我使用像4,8,15,16,255這樣的數字時，一切正常。但是，如果我使用例如2,9,17,254，它不會顯示正確的數字。我真的需要幫助。 .model small .data exp db 8 dup (?) num dw 09 var dw 2 .cod

assembly binary decimal x86-16 emu8086 2017-10-19

---

0熱度

2回答

每個範圍的VBA編號格式不同

我想根據第二個單元格的小數位數來更改我的範圍的格式。任何想法？ 我使用下面的函數來計算小數（作品） Function CountDecimalPlaces(aNumber As Double) As Long Dim len1 As Long, len2 As Long len1 = Len(CStr(aNumber)) len2 = Len(CStr(Int(aNumber))) Co

excel vba excel-vba decimal number-formatting 2017-10-19

---

-1熱度

1回答

如何編寫和形成二進制文字，例如通過C++ 11/C++ 14中的十進制轉換？

int main() { int x = 3613; std::cout << "x= " << x << std::endl; std::string xBin = std::bitset<16>(x).to_string(); std::cout << xBin << std::endl; unsigned long xDecimal = st

c++11 binary decimal c++14 user-defined-literals 2017-10-20

---

1熱度

1回答

爲什麼不是 'decimal.Decimal（1）' 的 'numbers.Real' 的實例？

我嘗試檢查一個變量是否是任何類型的數字（int,float，Fraction，Decimal等）的一個實例。 我翻過凸輪這個問題，它的答案是：How to properly use python's isinstance() to check if a variable is a number? 不過，我想排除複數，如1j。 類numbers.Real看上去完美，但它返回False爲Decimal

python numbers decimal isinstance 2017-11-11

---