floating-point

0熱度

2回答

給定這兩個數據集： data_set_1.txt：https://pastebin.com/VQrsv8kU data_set_2.txt：https://pastebin.com/jFBa6kZq （可以下載這些不登記）我想獲得的x_1值，y_1，x_2和y_2其中： z_1 = z_2（在閾值內）。有沒有辦法做到這一點？ 1）兩個數據集不具有相同的長度， 2）由於z_1和z_2永遠不會完全

0熱度

1回答

將浮點數向量轉換爲十六進制/二進制字符串

基於this關於編碼/解碼爲基礎64的答案和this關於從浮點數轉換爲字節向量並返回的答案，我嘗試將浮點向量轉換爲十六進制或二進制串。這是我的代碼： vector<float> floats = ...; const unsigned char* bytes = reinterpret_cast<const unsigned char*>(&floats[0]); std::vector<u

0熱度

1回答

取整字典中的浮點值

我有一個包含字典的數組。我需要將關鍵「價格」的值更改爲浮點值，並保留2位小數，但字典應保持不變。我試圖獲取每個價格值並將其替換爲可變數組。但我需要一個更簡單的解決方案。提前致謝。 ( { pen = { price = 180.1299; }; pencil = { price = 20.1299; }; }, {

2熱度

1回答

將符號位，指數和尾數轉換爲浮點數？

我有Sign Bit，Exponent和Mantissa（如下面的代碼所示）。我試圖把這個價值變成浮動。這樣做的目的是讓59.98（它會讀作59.9799995） uint32_t FullBinaryValue = (Converted[0] << 24) | (Converted[1] << 16) | (Converted[2] << 8) | (Converted[3

0熱度

1回答

最大化精度的操作順序

我正在使用浮點操作進行這些操作：這兩個中哪一個更精確？（A * B）/ C 或（A/C）* B 不管它是否在所有或者它取決於情況？如果是這樣，我應該選擇哪種情況？

2熱度

1回答

2 ^（ - x）= Matlab中的realmini

我試圖通過表達式-log2（realmin）找到在Matlab中2 ^（ - x）= realmin的最大值x。結果是1022.但是，當我嘗試代碼2 ^（ - x）> 0（範圍從1023到1074的x）時，結果爲1（真）。根據我的理解，realmin是最小的正浮點數。那麼，爲什麼-log2（realmin）沒有給出最大的x使得2 ^（ - x）> 0？

2熱度

6回答

爲什麼浮點數333.50是雙

爲什麼該行的浮點數被視爲雙？我認爲浮動有足夠的空間來保存這個數字。 float f = (float)333.50;

0熱度

1回答

日誌庫2精度錯誤

我想要在JavaScript中獲得浮點數的尾數。所以我首先得到浮點數的指數部分。通過數學，指數是floor(log2(x))。但是，在JavaScript中沒有log2函數。所以我把它從自然對數。但精確性是重要的。由於log2(pow(2, 3)) == 2.99999...，floor(log2(pow(2, 3)) == 2。我該如何解決這個問題？謝謝。編輯：我不想使用ECMAS

5熱度

2回答

我可以寫const表達式double，它是小於-0.5的兩個ulps

我有一組基於通過json數據包接收到的數字的浮點計算。在我的計算結束時，我需要其中一個數字≥> -0.5。我發現有時我有一個測試失敗的值，因爲它低於閾值ULP。反正是有寫constexpression這意味着像 constexpr auto threshold = -0.5 - 2*ULP; 還是我不得不求助於像 auto threshold = -0.5; threshold = std:

2熱度

1回答

我也應該使用numpy.float64而不是Python float當使用numpy.array

我到目前爲止還沒有遇到任何問題，所以這是純粹出於好奇的問題。在Python我通常限定的浮紗和浮陣列是這樣的： import numpy as np s = 1.0 v = np.array([1.0, 2.0, 3.0]) 在上述s的情況下是float，但v元素是numpy.float64類型。更一致的，我可以，例如，而是執行此操作： import numpy as np s =