precision

3熱度

1回答

var num1 = 1.1 if num1 + 0.1 == 1.2 {print("true")} else {print("false")} 結果：false var num1: Float = 1.1 if num1 + 0.1 == 1.2 {print("true")} else {print("false")} 結果：true 的代碼前者塊具有NUM1它代表一個雙鍵和後者

-1熱度

3回答

Java - 十進制格式當返回浮點數或十進制數時丟失精度

我已經查看了一些與格式化數有關的線程。大多數情況下，它的作品除了價值3.101。 Float和Double已經與##和00格式一起使用。 import java.text.DecimalFormat; public class DecimalFormatTest { public static void main(String[] args) { Float d1 = -3.1

-1熱度

2回答

如何確定兩個雙打是否幾乎相等

我試圖找到一些Java代碼來確定兩個雙打是否幾乎相等。我做了很多谷歌搜索，並找到了我在這裏放置的一些小部件。它開始逃離我的地方是使用「相對epsilon」。這種方法看起來就像我在找的東西。我不想直接指定epsilon，但想要根據兩個參數的大小使用epsilon。這是我放在一起的代碼，我需要對它進行完整性檢查。（附註：我知道足夠多的數學是危險的。） public class MathUtils

1熱度

3回答

浮點運算

今天在我的C++編程課程中，我的proff告訴我，不應該直接比較兩個浮點值。所以我試了這段代碼，並找出他的說法的原因。 double l_Value=94.9; print("%.20lf",l_Value); ，我發現結果94.89999999（一些相對誤差）據我所知，浮點數並不存儲在一個呈現給代碼的方式。以二進制形式壓縮那些零和零涉及一些相對舍入誤差。 Iam尋找兩個問題的解決方案。

0熱度

1回答

我可以使用精度爲（float32）的python float嗎？

我可以使用精度爲（float32）的python float嗎？因爲它將從原始的python.float（32）序列化，並將被反序列化爲原始的java.float。任何圖書館都沒有考慮。例如）numpy.float32

1熱度

1回答

如何理解用於評估標記的腳本conlleval.perl？

我總是不知道如何評估標記任務，包括POS標記或任何其他序列標記。我特別不知道如何計算這些任務的精度，回憶和F1得分。然後我發現有一個名爲conlleval.perl的腳本，我們可以直接使用它進行評估。但我不知道perl語言，我仍然對P，R，F1如何計算標記任務感到困惑。有人可以告訴我嗎？

3熱度

1回答

什麼決定PostgreSQL過濾的數據類型？

我非常熟悉IEEE 754單精度和雙精度數據類型是如何得到它們的支持的。我讀過關於每個計算機科學家應該知道什麼關於浮點運算的文章，但是我對Postgresql所做的選擇感到困惑。我創建一個表 create table ttt(f4 float4, f8 float8, fn numeric); 我添加一些值： insert into ttt (f4,f8,fn) values(12.206,

0熱度

3回答

如何解析和C++

分裂雙重我有這三個數字： double n1 = 1.1 double n2 = 1.10 double n3 = 1.101 ，我希望將它們轉換成字符串到小數部分分離到別的地方使用它們。因此，我想有以下幾點： string s1 = 1 string s2 = 10 string s3 = 101 我讀這使用std::to_string，因爲它總是返回所有小數，例如是不可能的s3

0熱度

1回答

限制HTML文本框中的十進制條目

我有一個HTML文本框，用戶將輸入數據，然後將數據保存在十進制類型（12,4）的SQL列中。我將如何限制我的文本框允許上述精度的數字或十進制值？這是我的文本框代碼： @Html.TextBoxFor(m => m.Rate, null, new {@maxlength = "12", style = "width:87px;"})

0熱度

3回答

當我在減去日期時間變量時，如何停止Matlab舍入小數點

我在Matlab中遇到了一些問題，用datetime類型變量舍入錯誤。我有一個數組，它叫't'，它是datetime類型的。例如，t(2) = 00:01:35.6889999和t(1) = 00:01:35.3549042。如果我嘗試做t(2)-t(1)，我得到的只是一個類型爲'duration'的答案00:00:00。我想找到這些時間之間的差異，並保持精度！任何幫助，或直接鏈接，直接迎