single-precision

    0熱度

    1回答

    將大十進制數轉換爲浮點表示

    我想我知道如何將十進制數轉換爲IEEE 754單精度浮點表示，但我想確保。 我想表示IEEE 754單精度浮點表示中的3.398860921 x 10^18。我知道如何浮動代表。細分。 31日位：符號（0 +和1爲 - ） 30-23th位數：表示指數 22-0th位數：表示尾數（有效位數） 所以簽署顯然是0，因爲它是一個正數。對於指數我想出了這一點（通過添加18到127的偏差），並將指數表示爲：
    floating-point decimal single-precision 2013-11-04

    12熱度

    5回答

    C如何知道期望的類型？

    如果所有值都不超過一個或多個字節，並且沒有字節可以包含元數據，系統如何跟蹤每個字節代表什麼類型的數字？縱觀維基百科上的Two's Complement和Single Point，可以揭示出這些數字是如何用base-two表示的，但我仍然想知道編譯器或處理器（不知道我在這裏處理的是什麼）確定了這個字節必須是是一個有符號的整數。 這類似於接收一封加密的信件，看着我的密碼書架，想知道要抓取哪一個。一些指
    c memory twos-complement single-precision 2013-03-01

    0熱度

    1回答

    如何轉換浮動雙工？

    double可以表示float可以表示的每個值。 將float轉換爲double只需通過添加0來擴展尾數，並通過填充符號位來擴展指數部分？ 我測試了一些數據在http://www.binaryconvert.com/index.html。它以這種方式工作。但是我沒有找到任何關於轉換的官方定義。轉換是否有任何轉角情況不以這種方式工作？
    c floating-point double ieee-754 single-precision 2017-07-17

    1熱度

    1回答

    在VBA中取走2個單精度數字時出現奇怪的結果

    任何人都可以解釋爲什麼下面的結果不等於零嗎？ ? CSng("0.199881939681229") ? CSng(0.1998819) ? CSng(CSng(0.199881939681229) - CSng(0.1998819)) 一號線返回0.1998819 二號線返回0.1998819太 但第三返回4.470348E-08 哪裏是這個數字的，如果這兩個數字都完全按相同值的單代表未
    vba single-precision 2015-07-03

    0熱度

    1回答

    單精度浮點數減法是如何完成的？

    下面是示例（我已將它們預先轉換爲十進制）。 A爲01000001000010000000000000000000^2（十進制8.5） B爲01000000000100000000000000000000^2（十進制2.25） 的（（+ A） - （+ B））應該是6.25十進制。 正常化A和B以及匹配的指數。 A = 1.00010 * 2^3 B = 0.01001 * 2^3 我可以如下在紙上
    binary cpu-architecture single-precision 2017-01-04

    0熱度

    2回答

    雙精度和單精度浮點數？

    我想知道爲什麼雙精度和單精度數有時相等，有時不相等。因爲當我下面舉個例子，他們是不相等的： import numpy as np x=np.float64(1./3.) y=np.float32(1./3.) 但以下是平等的： x=np.float64(3.) y=np.float32(3.) 我明白爲什麼第一套X和Y是不相等的，但我不是很肯定爲什麼第二套是平等的。
    python numpy floating-point precision single-precision 2017-09-14

    0熱度

    1回答

    Numpy標量上的二元運算自動上移到float64

    我想在np.float32和內建的Python int和float之間執行二元運算（如加法和乘法），並獲得一個np.float32作爲返回類型。但是，它會自動上傳到np.float64。 示例代碼： >>> a = np.float32(5) >>> a.dtype dtype('float32') >>> b = a + 2 >>> b.dtype dtype('float64')
    python numpy numba single-precision 2014-09-18

    1熱度

    1回答

    大整數到單點浮點數

    我試圖將一個大整數轉換爲32位單精度浮點數，但我無法克服我遇到的這個問題。如果大整數的二進制表示大於23位尾數，該怎麼辦？ 例如，取整數1671277287 它的二進制表示01100011100111011010101011100111 我的理解是，你向左移動小數點的位置，直到只有1位的是像這樣左： 01.100011100111011010101011100111 我的問題是，這個尾數是30位，
    floating-point integer mantissa single-precision 2015-09-02

    3熱度

    2回答

    減去單精度雙精度給我0不是我想要的

    我試圖使用檢查用八度的sin（x）相關聯的舍入誤差，我得到這些數字： >> single(sin(10)) ans = -0.544021129608154 >> sin(10) ans = -0.544021110889370 >> (single(sin(10))) - (sin(10)) ans = 0 這應該是： -1.8718784×10^-8 我鍵入：format l
    octave precision single-precision 2016-02-04

    0熱度

    1回答

    MIPS - 如何將一組整數轉換爲單精度浮點數

    我真的很難搞清楚如何解決這個問題。我得到，我想要採取整數和分數的二進制表示，將它們合併爲尾數，並將符號位分配給開始，但我不知道如何在MIPS中實際實現它。 任何人都可以幫助我至少開始？ 假設您的MIPS硬件沒有浮點寄存器和浮點ALU。如果您想要執行浮點數加法，您將不得不使用整數寄存器（$ 0 - $ 31）和整數ALU來完成工作的MIPS整數指令。在此作業問題中，您將編寫MIPS代碼（僅使用整數指
    floating-point integer mips mars-simulator single-precision 2013-10-21
最新問題