floating-point

0熱度

4回答

我嘗試我的手在谷歌編程挑戰賽，有是一個使用雙值的問題處理... 我有一個很難用C編碼，總是莫名其妙地我的答案會從不同在某些情況下的實際答案... 我想知道的是，哪種語言具有最好的浮點實現和處理？這已經發生了很多次，我覺得是時候換用更好的語言來處理漂浮物了。有任何想法嗎？

8熱度

4回答

Diff工具在文本中忽略浮點格式（但不包含值）？

我在尋找一個diff工具，它也可以比較文本文件中的浮點值（在一定的容差內）。這是除了典型的文本比較比較功能，以及忽略空白，忽略大小寫等選項。一個GUI（或全屏控制檯UI）是好的，但我真的更喜歡面向流（stdin /標準輸出）工具。下面是一個非常簡單的例子，描述了理想的工具。有2個版本的foo.c的： foo_v1.c： #include <stdio.h> #define PI 3.141

2熱度

6回答

如何處理浮點運算精度用C

在程序設計競賽，浮點運算相關的問題說：「錯誤是答案必須小於1E-6」或「答案一定是高達6位小數正確的」。這是否意味着我可以不用擔心精度執行上FP變量計算，僅在打印的同時，我應該寫這樣 printf("%.6lf",a); 我是否理解正確嗎？上面的兩個引號是否意味着同樣的事情？在其中一個問題中，當我使用雙數組並執行一些計算並打印了一個數組元素時。它印上「-0.000000」。這是什麼意思？但

7熱度

2回答

如何在Moose中聲明一個類變量爲浮點？

如何在Moose中聲明一個類變量作爲浮點？我的（虛構的）下面的示例會產生「Real」，「Number」等錯誤...「Str」有效，但是失敗了。搜索/ Google沒有幫助，因爲我找不到正確的搜索字詞... PROBLEM.pm package PROBLEM; use strict; use warnings; use Moose; has 'PROBLEM'=> (isa=>'rea

13熱度

4回答

爲什麼不會崩潰？我不是在這裏除以零嗎？

我得到一個線的兩點 float slopeXY(CGPoint p1, CGPoint p2) { return ((p2.y - p1.y)/(p2.x - p1.x)); } 界如果我給它一個零尺寸線的斜率， CGPoint p1 = CGPointMake(0, 10); CGPoint p2 = CGPointMake(0, 10); float sxy = slo

3熱度

3回答

縮短Javascript編號

我正在尋找一種有效的方法來切斷Javascript中很長的浮動數字。我需要這個，因爲我輸出的兩個數字的百分比可能有時像99.4444444，而我只對「。」後面的前兩個數字感興趣。如2號99.44 我目前的百分比回吐功能： function takePercentage(x,y){ return (x /y) * 100; }

0熱度

1回答

如何將float傳遞給另一個類的ProgressView？

我想通過ProgressView從另一個類中進行的計算得到一個浮點數。我試着將它轉換爲NSDecimalNumber來傳遞它，但是當它到達目的地時，我不能再次將它返回到float。有一個比這更好的方法。

7熱度

5回答

獲取最大C++浮點值的與平臺無關的方法

什麼是獲取可用C++存儲在float中的最大值的最佳平臺無關方式？

5熱度

7回答

爲什麼在float中存儲的相同值和Java中的double存在差異？

我期待下面的代碼生成：「Both are equal」，但我得到了「Both are NOT equal」： float a=1.3f; double b=1.3; if(a==b) { System.out.println("Both are equal"); } else{ System.out.println("Both are NOT equal"); } ，這是什麼原

3熱度

2回答

爲什麼PHP使用Zend_Amf將數字16轉換爲float（6.1026988574311E_320）

Zend_Amf規範指出從Flash返回的Number類型將映射到PHP中的float。精細。但爲什麼16號返回6.1026988574311E_320？在OS X上運行的PHP版本是5.2.9。我試圖在PHP中強制轉換爲整數（上面的值被四捨五入爲0），並且還使用int（16）從Actionscript - 後者通過NULL 。如何確保Flash通過AMF返回一個整數，並且PHP可以處理它？