首页 > 其他分享 >计算机的错误计算(一百五十四)

计算机的错误计算(一百五十四)

时间:2024-11-15 22:14:14浏览次数:3  
标签:11 计算机 16 有效数字 一百五十 错误计算 MATLAB 数字

摘要  探讨 MATLAB 中双曲反余弦函数 acosh(x)的计算精度问题。

例1.  计算 \textup{acosh}(1.00005678) 与 \textup{acosh}(1.00000000000744)\,.

       直接贴图吧:

       另外,16位的正确值分别为 0.1065640302166440e-1 与 0.3857460304394790e-5(ISRealsoft 提供。通过公式 \ln(x+\sqrt{x^2-1}) 计算获得)。

       容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB 16位的输出中分别有3位与11位错误数字;有效数字的错误率分别为 3/16 = 18.75% ,  11/16 = 68.75% .

       注:可参考计算机的错误计算(八十七)

标签:11,计算机,16,有效数字,一百五十,错误计算,MATLAB,数字
From: https://blog.csdn.net/zaim1/article/details/143161295

相关文章