floating-point

2熱度

4回答

我是新來的Python裏面，我有我面對現在我有這個名單nested_list = [['1','2','3'],['2','4','6']] 我想列表的字符串改變自己的浮點表示而小的挑戰維持秩序同樣是 new_list = [[1.0,2.0,3.0],[2.0,4.0,6.0]] 感謝您的幫助

-5熱度

1回答

無法在我的應用程序中將字符串解析爲浮點數

起初我是android開發中的新手。我試圖製作這個小型應用程序，我想從用戶那裏獲取輸入並將它們顯示到（默認）列表視圖。當我把值放在所有的領域工作正常，除非我保持CGPA領域是空的它停了。不幸的是，MyApp的停止 Here is the OnClickListener login button. login.setOnClickListener(new View.OnClickLi

4熱度

2回答

atan2f vs fmodf vs只是簡單的減法

我在寫一段代碼時遇到了問題，這段代碼是在集成過程中圍繞一個角度進行的，並且是我正在處理的一個小模擬的一部分。所以基本上這個想法是通過確保它始終具有理智的價值來防止角度變大。我已經嘗試了三種不同的方法，我期望得到相同的結果。他們大部分時間都是這樣。但是前兩個在角度值環繞的地方產生了僞影。當我從角度值生成波形時，由於這些精度錯誤，我會得到不理想的結果。所以第一個方法是這樣的（極限角度-8PI + 8

5熱度

4回答

混淆了放心浮點數比較

放心usage documentation各地擁有的例子是這樣的： get("/lotto").then().body("lotto.lottoId", equalTo(5)); 好了，他們用的是Hamcrest匹配器來比較int值5。但是他們有一節說，放心JSON解析器默認使用的float而不是double，這樣反而比較12.12我應該比較12.12f： get("/price").the

0熱度

1回答

彙編語言：如何在分割後的下一條指令中包含小數點位？

美好的一天。我的項目是關於使用英寸和磅計算BMI。因此，用戶將以英寸輸入他的身高和以磅爲單位的體重。我已經學會了分裂和相乘。我只是不知道如何包含小數點後劃分，因爲我必須通過703再乘以它的，只有整個數目由703 n1 dw 0 n2 dw 0 ;gets input from user xor dx, dx mov ax, n1 ;n1 is the weight and n2 is

1熱度

2回答

如何在ruby/rails中存儲加密貨幣餘額而不引起浮點錯誤

我正在創建一個rails應用程序，用戶在ethereum和其他加密貨幣中可能有賬戶餘額。目前我將用戶餘額存儲爲一個浮點數。然而，這是一個非常糟糕的方法，因爲加密貨幣通常可以分成8位數字，所以任何浮點錯誤都會導致鉅額資金損失/收益。如何存儲用戶餘額（應該使用哪種數據類型）以便不會導致浮點錯誤？謝謝

0熱度

1回答

如何強制MATLAB不計算爲天道酬勤

我想通過一些代碼，我寫的和一個特定的行給我的問題在MATLAB的工作： Ts = (1+(DatesMod.*Bs)./VolMod).^(VolMod); VolMod與順序值的數組DatesMod的值範圍在700,000和740,000之間，Bs的值範圍在0和100之間。請注意，該函數在數學上類似於lim（n> Inf）（1 + B * Dates/n）的n次方。我明白這主要與計算機上分配

2熱度

2回答

是否有可能在浮點二進制數中有一個浮點指數？

是否有可能在二進制浮點表示以表示例如，7x20.25？如果是，問題是它是否符合標準？

-1熱度

2回答

停止對浮法C++

使用std試圖輸出我的浮動時，我得到一個問題::法院四捨五入< < 我有以下值： vector2f = {-32.00234098f, 96.129380f} //takes 2 floats (x, y) output: -32.0023:96.1294 我所尋找的是： output: -32.00234098:96.129380 的實際數量可以是來自7位（0.0000007）到3位小

-1熱度

5回答

無法計算正確的平均

C語言，文件stdio.h庫示例代碼： float avg; avg = 3/2; printf("Average: %.2f", avg); 從上面我期待下面的輸出代碼： Average = 1.50 但是相反我得到： Average = 1.00 這是爲什麼？我如何獲得正確的輸出？