division

3熱度

2回答

新手在這裏。我有以下代碼： myADC = 128 maxVoltage = 5.0 maxADC = 255.0 VoltsPerADC = maxVoltage/maxADC myVolts = myADC * VoltsPerADC print "myADC = {0: >3}".format(myADC) print "VoltsPerADC = {0: >7}".format

2熱度

3回答

分區，剩餘部分和唯一允許的實數

試圖找出這個僞代碼。以下是假設.... 我只能使用無符號和有符號整數（或長）。除法返回一個沒有餘數的實數。 MOD返回一個實數。不處理分數和小數。 INT I = 41828; INT C = 15; INT D = 0; D = (I/65535) * C; 在這種情況下你將如何處理一個分數（或十進制值）？有沒有辦法用負值來表示餘數？在這個例子中，I/65535應該是0.638

16熱度

3回答

分母已知時，更快的整數除法？

我正在GPU設備上工作，它具有非常高的分頻整數延遲，幾百個週期。我期待優化部門。所有由分母{1,3,6,10}中的分母表示，但分子是運行時正值，大約爲32000或更小。由於內存限制，查找表可能不是一個好選擇。你能想到替代品嗎？我曾想過計算浮點逆，並用它們乘以分子。謝謝 PS。謝謝你們。位移黑客真的很酷。從舍入恢復，我使用下面的C節段： // q = m/n q += (n*(j +1)

8熱度

2回答

零分工不NUnit的

拋出異常運行下面的C＃代碼通過NUnit的產生 Test.ControllerTest.TestSanity: Expected: `<System.DivideByZeroException>` But was: null 所以要麼沒有DivideByZeroException被拋出，或NUnit的不抓住它。類似於this的問題，但他得到的答案，似乎並不適合我。這是使用NUnit 2.5.5

7熱度

2回答

整數除法屬性

執行以下整數算術屬性保留嗎？ (m/n)/l == m/(n*l) 起初我以爲我知道答案（不成立），但現在不知道。是否適用於所有數字或僅適用於某些條件，即n > l？該問題屬於計算機算術，即q = n/m, q*m != n，忽略溢出。

0熱度

2回答

insert ...在選擇錯誤時用分隔符選擇？

CREATE TABLE IF NOT EXISTS XY（ X INT NOT NULL， ÿFLOAT NULL， PRIMARY KEY（x）的） INSERT INTO XY (x,y) (select 1 as x ,(1/7) as y); 錯誤與 Error code 1064, SQL state 42000: You have an error in your SQL s

2熱度

2回答

做一個浮動部門而不安裝額外的寶石？

比方說，我有這兩個浮筒： a = 50.0 b = 1048576.0 c = a/b 通過打印c，我得到這個： 4.76837158203125e-005 做好分工與calc.exe給我的結果0.0000476837158203125。如果沒有安裝任何額外的gem，有什麼辦法可以實現與Ruby相同的功能？

-4熱度

2回答

大整數除以大整數

夥計們我正在爲學習目的而研究叫做LINT（large int）的類，一切都很順利，直到知道。我堅持實施operator /（const LINT &）。這裏的問題是，當我想除以林特我進入遞歸調用FNC即林特： //unfinished LINT_rep LINT_rep::divide_(const LINT_rep& bottom)const { typedef LINT_rep::Ite

0熱度

1回答

整數類型長整數和分數

我只寫了一個過程來將無符號整數分解爲素數。如果我將數據類型定義爲「int」，如果將其更改爲「long」，則結果將會錯誤。我不知道爲什麼。順便說一句，我用Win-TC作爲我的編譯器。如下代碼： #include "stdio.h" #define True 0xff #define False 0x00 char DividerIsPrime(unsigned long data); v

25熱度

4回答

在PHP中查找數字的倍數

我想在PHP中查找所有數字的多個元素。我用這樣的 if($count != 20) 摸出如果$count不等於20 但我也需要這個腳本檢查$count不等於20，40 ，60,80,100,120,140,160等。任何想法？我想我需要使用模數符號（%），但我不知道。