inexact-arithmetic

1熱度

2回答

DBL_MAX失去其精度顯著部分從字符串

我跑在我的iPhone的代碼被重新分析後： double d = DBL_MAX; NSString *s = [NSString stringWithFormat:@"%.0f", d]; double dp = atof([s cStringUsingEncoding:[NSString defaultCStringEncoding]]); NSString *pe = d == dp

iphone c cocoa-touch inexact-arithmetic 2012-03-12

---

2熱度

2回答

計劃 - 在R5RS數值塔「不精確」的概念

一邊想着實施方案R5RS的樣子，我就成了疑惑R5RS以下提取物（22-23頁）： （餘-13 -4）==> -1 （餘數-13 -4.0）==> -1.0;不精確 （LCM 32 -36）==> 288 （LCM 32.0 -36）==> 288.0;不精確 （分母（/ 6 4））==> 2 （分母（exact->不精確（/ 6 4）））==> 2.0 我們應該明白，即使-4.0,32.0和（精確

scheme r5rs inexact-arithmetic 2011-02-10

---

7熱度

1回答

在Python中生成兩個文件的「模糊」差異，與浮點數的近似比較

我有一個比較兩個文件的問題。基本上，我想要做的是兩個文件之間的UNIX的diff，例如： $ DIFF -u左文件上右擊文件 但是我的兩個文件包含花車;並且由於這些文件是在不同的體系結構上生成的（但是計算相同的東西），所以浮動值不完全相同（它們可能會因1e-10而有所不同）。但是我通過「區分」文件尋求的是找到我認爲是顯着差異的東西（例如差異超過1e-4）;在使用UNIX命令diff時，幾乎所有包含

python floating-point fuzzy-comparison inexact-arithmetic 2010-06-24

---