我得到了一些MatLab中num2str()fctn的精度問題。precision num2string matlab
a=0.11111111111111;
b=a;
Linux/OSX: num2str(a+b,25): ans=0.2222222222222221655465116
Windows: num2str(a+b,25): ans= 0.222222222222222
任何人都可以解釋在使用Linux/OSX系統時小數點後15位的數字是從哪裏來的嗎? num2str()可以獲得的最大精度是多少?
num2str文檔中有一些提示,我完全不理解。
Note: If you specify precision to exceed the precision of the input floating-point data type, the results might not match the input values to the precision you specified. The result depends on your computer hardware and operating system.
這取決於您的計算機硬件和操作系統。 – excaza
對不起,這是顯而易見的,沒有解釋 – moatze