MATLAB如何使用digits函数设定所用数值的精度
·单独使用digits命令将在命令窗口中显示当前设定的数值精度。
·digits(D)命令将设置数值的精度为D位。其中D为一个整数,或者是一个表示数的字符型变量或符号变量。
·D=digits命令也是在命令窗口中返回当前设定的数值精度,其中D是一个整数。
例如在MATLAB窗口输入下面的内容:
>> digits
Digits = 32
此时,由输出结果可以知道当前的数值精度为32位。
继续在命令窗口中输入如下命令:
>> digits(100)
此时,命令窗口没有任何反应,但是,系统内部已经将数值精度设定为100位。
继续在命令窗口输入如下命令:
>> d=digits
d =
100
可见,此时,数值精度已经设定为100位了。