摘要 探讨 MATLAB 中双曲反余弦函数 acosh(x)的计算精度问题。
例1. 计算 与
直接贴图吧:
另外,16位的正确值分别为 0.1065640302166440e-1 与 0.3857460304394790e-5(ISRealsoft 提供。通过公式 计算获得)。
容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB 16位的输出中分别有3位与11位错误数字;有效数字的错误率分别为 3/16 = 18.75% , 11/16 = 68.75% .
注:可参考计算机的错误计算(八十七)。
标签:11,计算机,16,有效数字,一百五十,错误计算,MATLAB,数字 From: https://blog.csdn.net/zaim1/article/details/143161295