integer-arithmetic

62熱度

2回答

Java的原始範圍計算

在Java中，當我們宣佈 short number=1024*1024*1024; 它會給編譯時錯誤，但 short number=1024 * 1024 * 1024 * 1024; 編譯罰款。爲什麼會發生？

java integer-arithmetic 2014-07-16

---

2熱度

1回答

卡爾曼濾波器

的溢出感知執行我試圖實現卡爾曼濾波器獲得物體的定向，使用3軸加速計和3軸陀螺儀作爲傳感器。 選擇此過濾器的預測階段的動態模型是直線前進，它是： new_angle = angle + angular_velocity * time new_angular_velocity = angular_velocity 但我沒有浮點支持的手，我需要的精度每一位來建模角度。因此，我的計劃是將角度表示爲3

integer integer-overflow fixed-point kalman-filter integer-arithmetic 2014-07-24

---

0熱度

2回答

C無符號整數比較 - 環繞自定義位數

我正在讀取一個24位值，目前變爲uint32_t變量。計算兩個這樣的變量之間的差異，並思考「它是無符號的！爲什麼這會溢出一個問題？！」，我意識到這些值已經超出了包含它們的變量的大小。 這是一個計數器，所以人們知道它比另一個'大'，雖然可能溢出了。因此，0x1 - 0x2 = 0xFFFFFFFF，但應該是0x00FFFFFF。 我該怎麼處理這件事？ 定義類型uint24; if/else在做適當的

c types unsigned integer-arithmetic 2014-07-24

---

-1熱度

1回答

8086彙編語言無符號解釋

我在8086彙編，計算這個寫一個程序： (a+b*c+2/c)/(2+a)+e 其中 a，b - byte c - word e - doubleword， in unsigned interpretation。 到目前爲止，我有這樣的： assume cs:code,ds:data data segment a db 4 b db 2 c dw 16

unsigned x86-16 integer-arithmetic 2014-11-02

---

2熱度

1回答

實現自定義算術系統

我需要實現一個自定義整數算術系統，如十六進制，但有4個字母。 例如，十六進制使用[0-9,A-F]來表示一個數字。我的將使用[0-9,A-J]。 Sample representations: Decimal(5): Hex(5), MySystem(5) Decimal(15): Hex(F), MySystem(F) Decimal(16): Hex(10), MySystem(G)

java math hex integer-arithmetic 2014-09-19

---

0熱度

1回答

FOR循環變量算術 - 批處理腳本

所以我正在爲我的一個類的最終項目工作，目標基本上是讓用戶輸入一個初始投資，並且該值會折舊的年數。它由一個由投資除以年數決定的不變價值貶值。 在for循環中，它應該從'bookvalue'中減去'annual'並打印出每年的新bookvalue ...數學本身正常工作（我相信？），因爲如果我在外部回顯值我的循環他們是他們應該是，但與循環內的echo語句我沒有得到我需要它輸出（bookvalue不會改

batch-file for-loop integer-arithmetic 2014-06-16

---

2熱度

3回答

perl - int（）遞減一個整數

在我發火之前，我想說我明白浮點數和類似的東西，但這似乎不是我的問題。 爲了簡化事情，我試圖確定一個數字是否有超過2個小數位。我將數字乘以100（存儲在變量「test1」中），然後用int() ($test2)截斷並將其與if進行比較。 $test1 = $number * 100; $test2 = int($test1); unless ($test1 == $test2) { d

perl floating-point int integer-arithmetic 2014-11-13

---

0熱度

1回答

關於算術的二進制的優勢

有誰知道二進制的算法在做算術時如何比小數好？這是在測試一個問題，我似乎無法找到任何地方一個很好的答案... 在具體： 解釋使用二進制，而不是在以下topics- 小數的好處 整數加法 整數乘法 整數除法 浮點存儲 任何幫助將不勝感激。

binary decimal cpu-architecture integer-arithmetic 2014-06-18

---

4熱度

4回答

從循環索引k中，獲得對i，j，其中i <j？

我需要遍歷所有對i,j與0 <= i < n,0 <= j < n和i < j對於一些正整數n。 問題是我只能通過另一個變量循環，比如說說k。我可以控制k的範圍。所以問題是確定兩種算術方法，f(k)和g(k)，使得i=f(k)和j=g(k)遍歷所有可允許的對，因爲k將遍歷其連續值。 我怎樣才能以簡單的方式做到這一點？

algorithm loops matrix mapping integer-arithmetic 2014-09-30

---

0熱度

1回答

MIPS計算器不能正常輸出

我想實現一個MIPS計算器，它需要3個整數作爲輸入並返回一個輸出。目前，代碼輸出「int1，int2和int3的總和爲1」，我不明白爲什麼。也許我沒有正確寫入加法子程序？ .data welc: .asciiz "Enter an integer:\n" sum: .asciiz "The sum of " prod: .asciiz "The product of " divi: .a

math mips integer-arithmetic 2014-10-16

---