摘要 探讨 log(y,x) 即以 x 为底 y 的对数的计算精度问题。
Log(y,x)运算是指 x 为底 y 的对数。
例1. 计算 log(123667.888, 0.999999999999999) .
不妨在Python中计算,则有:
若在 Excel 单元格中计算,则有几乎同样的输出:
然而,正确值是 -0.1172535492888347e17(ISRealsoft 提供)。这样,二者均只有3位正确数字。其错误率均为 (16-3)/16 = 81.25% .
标签:计算机,16,九十三,错误计算,计算,对数,为底,log From: https://blog.csdn.net/zaim1/article/details/141721273