保留4位有效数字,matlab中误差限Tol是多少

10^-4还是10^-5?
2025-02-26 23:53:25
推荐回答(1个)
回答1:

你所说的是在什么地方的误差限?
误差限有绝对误差和相对误差之分。如果是绝对误差,决定的是精确到几位小数,并不意味着有效数字的位数;而相对误差则决定有效数字的位数,4位的话取10^-4就可以了。