摘要 计算机的错误计算(二十一)就案例 展示了“两个不相等数相减,差为0”。本节给出新的计算过程:不停增加计算精度直到出现非0结果。这个过程与结果表明,即使是专业数学软件,对这个问题的处理,也不尽完美。
对于 来说,正如计算机的错误计算(二十一)所述,双精度下,其输出为0. 容易想到,要获得有效数字,必须提高计算精度。
下面展示在数学软件 Maple 中的计算过程。
Maple 初始的默认位数是10位。从上可知,直到有效位数增加到 17位,才获得有效数字。但是,不知大家注意到没有?17位有效位数下,只显示 3位数字“110”。从后面的结果知,四舍五入后应该是“111”。所以,首先,17位有效位数下只输出 3位数字,其次,输出的还不全对。
您感觉如何?觉得难还是不难?以为只要增加精度就行?上面可是专业数学软件!
最后,若您想验证 Maple 软件的结果,可以访问 ISReal 计算器, 可信计算http://www.isrealsoft.cn/
标签:计算精度,计算机,17,有效位数,错误计算,二十四,软件,Maple From: https://blog.csdn.net/zaim1/article/details/140231751