0
因此,我學會在Excel中機器精度爲2 ^( - 1022)Get Machine epsilon in Microsoft ExcelExcel的機器精度比較
假設我有在單元格A1:=1+2^-1022
=1=A1
回報TRUE
我在做什麼錯誤?
因此,我學會在Excel中機器精度爲2 ^( - 1022)Get Machine epsilon in Microsoft ExcelExcel的機器精度比較
假設我有在單元格A1:=1+2^-1022
=1=A1
回報TRUE
我在做什麼錯誤?
您應該閱讀所有關於該問題的評論。您的答案是:
Microsoft定義了XL的浮點數精度限制。 Microsoft支持文章ID:78113中列出的最小浮點數爲2.2250738585072E-308 。當我在我的電子表格中輸入此號碼 時,它實際上存儲浮點數0,但如果我存儲了2.2250738585073E-308, (我加1到最低有效數字) 我可以看到所有的數字。我看到你問了一個epsilon機器,但是因爲你使用的是XL,你真正看到的是C/C++浮點數 點epsilon。請參閱Microsoft開發人員網絡xlfRegister (表單1)主題。
如果你終止了'= 2^-1022',那麼將單元格格式化爲'0.00000000000000E + 0',你可以看到它顯示爲'2.22507385850720E-308',然後如果你將特殊值粘貼到格式爲一般你會得到'2.2250738585072E-308' –