mantissa

0熱度

1回答

我正在用Verilog實現一個硬件雙精度加法器。在驗證階段，當我將硬件輸出與MATLAB（或C）雙精度加法輸出進行比較時，發現LSB不匹配的一些奇怪情況，考慮到我正在使用相同的舍入模式（舍入到最近偶數）。我的問題是關於C計算的準確性，它是否在舍入時真正準確，還是僅限於某些CPU架構（32位或64位）？下面是一個例子， A = 0x62a5a1c59bd10037 = 1.59449333962

0熱度

1回答

netezza雙精度輸出截斷Vaules

我注意到，nzsql和'nzunload'只是截斷雙精度列的尾數值。問題如下： select 1 from tot_amt from table1; tot_amt ~~~~~~~ 123.124 567.678 而當我用其他客戶一樣Aginity的數據分析 - 輸出我得到的是 tot_amt ~~~~~~~ 123.1240535 567.6780122 此外，我已經找到

1熱度

1回答

大整數到單點浮點數

我試圖將一個大整數轉換爲32位單精度浮點數，但我無法克服我遇到的這個問題。如果大整數的二進制表示大於23位尾數，該怎麼辦？例如，取整數1671277287 它的二進制表示01100011100111011010101011100111 我的理解是，你向左移動小數點的位置，直到只有1位的是像這樣左： 01.100011100111011010101011100111 我的問題是，這個尾數是30位，

-1熱度

2回答

浮點型數字表示

使用....在補23位尾數尾數8位指數的符號位代碼如下：-28.625 可有人告訴我最簡單的方法要做到這一點......講師不是很有幫助！

0熱度

1回答

尾數和指數 - 帶小數的負數（超過.5）

這是我的問題。我正在做一些工作，並看到兩個不同的答案。我正在使用一個計算器（在線）來檢查我的答案，它與我應該得到的答案衝突，我需要看看哪一個是正確的。問題是： -6.25 我工作了6.25，然後採取了二補。 6.25 - > 0110.001 尾數 - > 0.11000100000指數 - > 0011 我的回答：2的補1.00111100000指數 - > 0011 答案我應該得到說：尾數

2熱度

1回答

從5位浮點數表示法計算值

我已經在這方面做了很多工作，並且認爲我錯過了關於「壓裂」部分的內容。在這個5位浮點中，符號位是最重要的，接下來的兩位是指數，指數偏置是1.最後兩位是有效數（尾數）。所以我有一堆值，但我只是想更好地理解該方法。第一個是： 0 00 01 我知道方程是 V = (-1)^s * m * 2^E 註冊是零，並且由於數規格化，E = 1-偏壓= 0 （是嗎？）所以，我有： V = 1 * m

2熱度

1回答

在matlab中計算科學數字的尾數和指數

我想在matlab實驗室中找到一個數字的尾數和指數。有沒有函數或方法來計算它們？例如當所述號爲0.0005此函數返回5尾數和-4爲指數謝謝

0熱度

1回答

減少尾數位寬

嗯，我覺得不好意思，我不能由我自己得到這個，但.. 我怎樣才能減少尾數（和指數）位與一個浮點數？我訓練（卷積）人工神經網絡（我實現它FPGA），我想學習位寬對比測試尾數（和指數）之間的關係（和訓練）CPU（和GPU）的準確性。下一步就是將我的浮點數轉換爲固定點表示形式（這就是我在FPGA上使用的），然後看看結果如何。（Tong，Rutenbar和Nagle（1998）]和[Leeser and

3熱度

1回答

在Matlab中如何使用科學記數法中的數字變量（matissa和exponent）？

我正在使用Matlab並使用scientific notation中的數字，用e代表指數。在Matlab中的一個例子： >> 2e5 ans = 200000 現在想（分別爲e的左側和右側），在科學記數法表示的工作，但使用變量來保存尾數和指數的值。我不明白，如果沒有將變量名稱與指數字母e進行合併，可以如何完成此操作。例如： >> rr=5; >> 2err ??? 2err | E

5熱度

1回答

Perl尾數與其他雙打不同

我試圖在float中掃描：13.8518009935297。第一個例程是我自己的，第二個是MacOSX libc的 strtod，第三個是GMP的mpf_get_d（），第四個是perls numeric.c：Perl_my_atof2（）。我用這個片段打印尾數： union ieee_double { struct { uint32_t fracl;