precision

1熱度

2回答

從十進制數據在C＃中創建圖像或圖形？

是否可以使用矢量數據創建圖像或圖形，該矢量數據具有不同的小數分量？當然，如果可能......那麼怎麼樣？ 例如：一個向量有兩個點，其中第一個點是{9.56，4.1}，第二個點是{3.456789,2.12345}。 注意：精度因數而異。

c# graphics decimal precision 2009-12-13

---

1熱度

2回答

驗證雙值範圍和步

我試圖構建用於驗證雙值與最小值，最大值和步長值限定的範圍的成員的算法。問題在於檢查值是否符合步驟規則。對於整數，這可以很容易地完成： boolean validate(int value, int min, int step, int max){ return value >= min && value <= max && //Step should be

floating-point range algorithm precision floating-accuracy 2009-12-22

---

2熱度

2回答

ostream中的負精度值

這更多的是好奇心的問題，但是有誰知道C++中負的精度值是如何處理的？例如： double pi = 3.14159265; cout.precision(-10); cout.setf(ios::fixed, ios::floatfield); cout << pi << endl; 我已經試過了這一點，並使用GCC，似乎精度值將被忽略，但我很好奇，如果有在這種情況下會發生什麼一些正

c++ floating-point stream precision 2009-12-24

---

18熱度

4回答

帶小數的PHP和單元測試斷言

我有一個返回像1.234567890這樣的浮點數的方法。我想測試它是否確實如此。但是，看起來這個返回的float在不同的平臺上有不同的精度，所以我該如何聲明返回的值是1.23456789？如果我只是這樣做： $this->assertEqual(1.23456789, $float); 然後，這可能會失敗，在一些平臺沒有足夠的精度。

php unit-testing phpunit assert precision 2009-12-26

---

2熱度

3回答

地圖工具包中的GPS精度並不像Maps.app那樣精確

爲什麼我在Mapkit中的位置精度不如地圖應用程序中的精度？ 準確度設置爲最佳。 如果我想在maps.app中獲得我的位置，我在我的應用程序中有500米的精度爲50米。 我在做什麼錯誤:)？任何提示，以獲得更好的結果？ 感謝您的幫助:)

iphone gps maps core-location precision 2009-12-26

---

6熱度

1回答

爲什麼將double賦值給int不會觸發gcc警告？

int i = 3.1/2 不會引起任何警告，即使使用-Wall選項。有時，我想知道精度在哪裏丟失。爲什麼gcc不支持此警告，而msvc支持此警告？ 謝謝。 編輯：我的gcc -v顯示 Configured with: ../../gcc-4.4.1/configure --prefix=/mingw --build=mingw32 --enable-languages=c,ada,c++,f

c gcc precision gcc-warning 2010-01-04

---

0熱度

3回答

在SQL Server中存儲並返回用戶輸入的精度的小數點

SQL Server的decimal數據類型是否存儲了列中每個值的小數點後的實際位數？ 例如 UPDATE [Mixes] SET [Concentration] = 0.0012500 WHERE [Id] = 1 其中 Concentration Decimal(21,11) 是否有可能得到完全相同「0.0012500」值由用戶輸入，或者是否有必要存儲小數位的實際數量進入另一列？

sql-server decimal precision 2010-01-08

---

0熱度

1回答

春季queryForLong - 精度損失

我有一個針對MySql數據庫運行的Spring應用程序。我有一個銷售表所示： +-------------------+------------------------------+------+-----+---------+-------+ | Field | Type | Null | Key | Default | Extra | +-----------------

java mysql spring precision 2010-01-12

---

3熱度

5回答

在MySQL

浮不正確 我進入「35444650.00」作爲一個浮動到我的MySQL和它保持到重新格式化35444648.00，任何幫助，歡迎...

php mysql floating-point precision 2009-11-24

---

2熱度

1回答

科學記數法是否會影響Perl的精度？

我在Perl中遇到了一個奇怪的行爲。下面的減法應產生零結果（它在Python做）： print 7.6178E-01 - 0.76178 -1.11022302462516e-16 它爲什麼會發生，以及如何避免呢？ P.S.效果出現在「用於x86_64-linux-gnu-thread-multi的v5.10.0」（Ubuntu 9.04）和「用於darwin-2級別的v5.8.9」（Mac

perl numbers precision 2010-01-13

---