integer-arithmetic

    0熱度

    5回答

    我怎麼能檢測到32位的整數溢出

    我知道這樣的話題被問了好幾次，但我的問題是關於整個32位int溢出。例如： 11111111111111111111111111111111 + 00000000000000000000000000000001 = 00000000000000000000000000000000 //overflow! 我發現topic有類似的問題，但這個算法並不完美。 111111111
    java integer bit-manipulation integer-arithmetic 2014-01-20

    0熱度

    3回答

    整數arithemetic舍入

    試圖找到一種方法，只使用整數類型進行簡易舍入。發現了以下解決方案： 例1 - 圍捕 Value1=260 Value2=305 Tmp1=(10 * Value1)/Value2 = 8.52 = 8 (integer) Tmp1=(Tmp1 + 5)/10 = (8 + 5)/10 = 1.3 = 1 (integer) 例2 - 捨去 Value1=76 Value2=305
    integer integer-arithmetic 2013-10-16

    1熱度

    1回答

    將數字列表轉換爲數字

    我想知道是否有方法獲取數字（數字）列表，並將Scheme中的數字一起截斷成一個大數字（不是加法）。例如，我想要 (foo '(1 2 3 4)) ;=> 1234 是否Scheme具有內置函數來執行此操作？
    math scheme integer-arithmetic 2013-10-23

    1熱度

    3回答

    正則表達式來獲得分子和分母爲比X/Y

    輸出是好的，我假定輸入是「好」和x/y形式的，沒有空間，是僅採用整數值： run: 272/273 matching group 1 272 273 matching group 2 BUILD SUCCESSFUL (total time: 0 seconds) 代碼： package stackoverflow; import java.util.regex.Matcher
    java regex integer-arithmetic 2013-12-18

    0熱度

    2回答

    如何將Map <String，String>更改爲Map <String，Ratio>，比率爲x/y

    我有一串混合數據，一些單詞和數字。數字可以是整數，整數的比率，也可以是整數前的百分號。我試圖在程序運行期間（而不是數據庫）將這些信息存儲在Map中（可能是另一種類型的對象，如果有意義的話）。撇開百分號，剩下的數據被解析好了。我總是可以期待這些數據是以冒號形式存在的。 正確的輸出（製表符給出滑稽縮進）： AB: 272/272 CD: 204/529 EFGH: 105 HIJKL: 105 MN:
    java regex generics map integer-arithmetic 2013-12-18

    5熱度

    2回答

    什麼使Lisp具有出色的數學表現？

    我在一個Lisp教科書閱讀本： Lisp語言可以用數字進行了一些驚人的技藝，特別是當與大多數其他語言相比。舉例來說，在這裏我們使用功能expt計算的53五十三屆功率： CL> (expt 53 53) 24356848165022712132477606520104725518533453128685640844505130879576720609150223301256150373 大多數
    lisp common-lisp integer-arithmetic 2013-10-30

    1熱度

    1回答

    溢出Clojure中的計算，儘管使用BigInt有

    下關閉計算溢出儘管使用大整數的： (defn binomial-coefficient [n k] (let [rprod (fn [a b] (reduce * (range a (inc b))))] (/ (rprod (- n k -1) n) (rprod 1 k)))) (binomial-coefficient 100N 50N) 我無法揣摩出溢出發生。例
    clojure integer-arithmetic 2013-10-31

    0熱度

    3回答

    初學Java程序員算術錯誤

    我最近着手進入Java編程，並認爲自己是編程新手。這似乎是我的源代碼算術問題。我已經驗證了所有嵌套的if-else語句，並且它們都運行到最後的else語句的算術運算。它不能正確計算我已經設置了上面的if-else語句。 else語句是假設從量減去40再申請1項％的費用。我曾嘗試else語句fee = ((checkAmount - 40) * .01)和fee = ((checkAmount *
    java math integer-arithmetic 2014-02-08

    0熱度

    2回答

    一點數學的東西：給定整數<code>d</code> & <code>x</code>廣場和圓角

    Scala中，我將有一個布爾表達式，當且僅當y = (x^2 - 1)/d^2是一個正方形，其應該是真實的。 我嘗試這樣做： (Math.sqrt((x * x - 1)/(d * d)).toInt * Math.sqrt((x * x - 1)/(d * d)).toInt == ((x * x - 1)/(d * d))) 但3元組(x = 2, d = <all values test
    scala math floating-point integer-arithmetic 2013-09-27

    0熱度

    1回答

    8位微處理器上的C - 32位和16位算術

    我正在爲舊的8位微處理器（舊的NEC PC引擎控制檯中的Hu6280 - WDC 65C02衍生物）編寫一些代碼，內存爲32kb，最大爲2.5 mbytes數據/代碼rom。語言是小-C的變體，但僅限於以下兩種基本類型： char (1 byte) int (2 byte) 它沒有struct支持，沒有長整型支持。 我正在寫一個FAT文件系統庫來與一個主要爲加載遊戲ROM映像而開發的SD讀卡
    c filesystems embedded microprocessors integer-arithmetic 2014-01-07
最新問題