precision

0熱度

1回答

我從文本中讀取了一些逗號分隔的值。 -8.618643,41.141412 -8.639847,41.159826 ... 我寫劇本以下; get_in = zeros(lendata,2); nums = str2num(line); % auto comma seperation.(two points) for x=1:2 get_in(i,x)=nums(x); end 它自動

1熱度

1回答

谷歌的BigQuery - 代表持股量字符串沒有鬆動的精密

在谷歌的BigQuery，只是好奇：有沒有提出浮點值的字符串不失去它的精度的簡單方法。目前： select string(float_value) as str_float_value, cast(float_value as string) as cast_float_value_as_string, float_value as original_float_v

4熱度

1回答

浮點相互總是往返嗎？

對於IEEE-754算術，在倒數的最後一位準確度中是否有0或1個單位的保證？那麼，對於互惠的倒數是否有保證的誤差？

0熱度

1回答

在Python中控制浮點精度

我有一個python中的數字，如2.75960192084e-05。我想用2.759e-05之後的小數點後面的數字顯示它。注意指數應該保持顯示。那可能嗎？

0熱度

1回答

當從串聯到字符串連接時從雙精度到浮點精度？

我最近碰到下面的好奇心： double d=0.8608278036117554; String precision="float"; float f=(float)d; String s="a " + (precision.equals("float") ? (float)d: d) + " Bonjour"; String s2="a " + Stri

1熱度

3回答

管理浮點精度

我正在努力解決問題。浮點精度，並找不到解決方案。下面是一個簡單的例子： aa<-c(99.93029, 0.0697122) aa [1] 99.9302900 0.0697122 aa[1] 99.93029 print(aa[1],digits=20) 99.930289999999999 這樣看來，在存儲所述向量，R轉換的數字的東西具有稍微不同的內部表示（是的，我已閱讀圈1

7熱度

2回答

Mac和Linux上exp函數的結果略有不同

下面的C程序在我的Mac和Linux上產生不同的結果。我驚訝，因爲我認爲的libm實施以某種方式標準化 #include<math.h> #include<stdio.h> int main() { double x18=-6.899495205106946e+01; double x19 = exp(-x18); printf("x19 = %.15e\n

-2熱度

1回答

float or double precision

早上好，當我告訴postgresql顯示一個列爲float時，我總是得到一個結果爲「double precision」。它是一樣的嗎？

1熱度

1回答

在Python中從最大到最小精度的數據類型的順序？

根據我的教授，其布爾，無符號整數，整數，浮點數，複數，字符串和對象。但是爲什麼？浮點數如何比整數小（例如）？它是否與可以在某個特定項目上執行的操作（即特定的可執行的事情，最精確的類型是什麼？）我真的沒有什麼更多的補充，因爲我真的沒有想法，所以任何提示讚賞！

-2熱度

1回答

Matlab：如何防止Matlab在數組中切割小數？

是否有可能在逗號後有16位小數的數組中獲得此值？如下圖所示，我的工作區被切割得很差。親切的問候！ format long; startYCoordinateNorthEast=([50.93952193697642, 6.99745722361763]); here you can see the array, cut to 4 decimals but I need 16