precision

181熱度

3回答

我在數據庫中指定了以下列：decimal（5,2）如何解釋？根據在SQL Server Management Studio中查看的列上的屬性，我可以看出它的含義：decimal（數字精度，數值範圍）。精度和標度在實際意義上的含義是什麼？這將是很容易解釋爲具有5位和兩位小數的地方......一個十進制即12345.12 附：我已經能夠確定一位同事的正確答案，但很難在網上找到答案。因此，我希望

0熱度

1回答

GMP是否損壞？它不能完成！

當我在GMP庫中的MPQ變量上調用get_d（）時，我最多隻能得到六位數字。 C++應該爲雙打提供8個字節或〜15個數字。爲什麼我只能得到六位數字？

5熱度

4回答

Java：做自己的數據類型？（例如long long double？）

我只是在思考是否可以創建自己的數據類型？因此，如果您需要更高的精度，這不受基本類型之一的支持，您可以「創建」自己的滿足要求。這是可能的和如何？

1熱度

1回答

精確高效的繪圖技術和算法

我想繪製數學函數，我正在尋找精確高效的繪圖技術和算法。 2D繪圖應該足夠了。我專注於技術和算法，而不是圖書館或語言。提前致謝！

3熱度

3回答

PHP按位左移32位問題，並有大量的算術運算壞的結果

我有以下問題：第一：我試圖做一個32位按位上留下了大量的變化，而對於一些原因是該號碼總是按原樣返回。例如： echo(516103988<<32); // echoes 516103988 由於比特向左移位一個空間是乘以2的等同物，我試圖除以2^32的數目乘以，和它的工作原理，它返回2216649749795176448. 二：我必須從上面加點到9379的數量： printf('%0.0f'

3熱度

2回答

如何更改stl的打印精度？

我想使用帶小數位數的stl將數字打印到文件，而不是整體精度。所以，如果我這樣做： int precision = 16; std::vector<double> thePoint(3); thePoint[0] = 86.3671436; thePoint[1] = -334.8866574; thePoint[2] = 24.2814; ofstream file1(tempFile

0熱度

3回答

在Visual C double類型的數值精度++ 2008 Express的調試

我使用Visual C++ 2008 Express Edition的，當我調試代碼： double x = 0.2; 我在X 0.20000000000000001 但調試提示參見： typedef numeric_limits<double> double_limit; int a = double_limit::digits10 給我：A = 15 爲什麼會導致調試較長ŧ正常的C

3熱度

6回答

Oracle NUMBER如何具有比精度更大的比例？

該文檔指出：「精度範圍從1到38.刻度範圍可以從-84到127」。尺度如何能大於精度？範圍不應該從-38到38？

5熱度

2回答

爲什麼不同的C＃中的浮點精度由派生詞分隔，並由語句分隔？

我知道浮點精度如何在常規情況下工作，但我偶然發現了我的C＃代碼中的奇怪情況。爲什麼result1和result2中的浮點值完全相同？ const float A; // Arbitrary value const float B; // Arbitrary value float result1 = (A*B)*dt; float result2 = (A*B); result2

1熱度

1回答

實際長雙精度與std :: numeric_limits不一致

使用i686-apple-darwin10-g ++ - 4.2.1在Mac OS X 10.6.2，Intel上編譯並使用-arch x86_64標誌進行編譯，我只是注意到，雖然...... std::numeric_limits<long double>::max_exponent10 = 4932 ...如預期，在很長的雙實際上是設置爲與指數超過308的值，它成爲INF - 即在現實中，