matlab命令窗口最多能显示几位有效数字

Question

如题所述

Answer 1

常用精度控制函数format short 小数点后4位，format long 小数点后5位，但vpa可以实现很多位的显示；下面给你演示：
>> format short
>> pi
ans =
3.1416
>> format long
>> pi
ans =
3.141592653589793
>> vpa(pi,3)
ans =
3.14
>> vpa(pi,10)
ans =
3.141592654
>> vpa(pi,20)
ans =
3.1415926535897932385
>> vpa(pi,1000)；
vpa（pi,10000);
1000位和1000位的超出了知道答案的字符限制，没法贴出来，你自己电脑上试一下就知道了