引自:https://www.mathworks.com/help/symbolic/increase-precision-of-numeric-calculations.html
默认情况下,MATLAB®使用16位精度。
但是为什么当我写900000000+2
(9后为8个零)时返回900000002
,但写900000000+2
(9后为9个零)而返回9.0000e+09
这不是8位精度吗?
您使用format
命令来控制要打印的位数。 help format
查看更多详细信息。尝试format long g
并重新运行命令以查看更多数字。
默认情况下,MATLAB®使用16位精度。
这是指计算精度,而不是打印精度。默认情况下,MATLAB将变量定义为double,通常最多可以精确到16位数字。但是您可以在较低的版本中打印这样的双精度数字(由format命令控制)