• 2024-09-15计算机的错误计算(九十三)
    摘要  探讨log(y,x)即以x为底y的对数的计算精度问题。    Log(y,x)运算是指 x为底y的对数。 例1.  计算log(123667.888,0.999999999999999).    不妨在Python中计算,则有:若在Excel单元格中计算,则有几乎同样的输出:    然而,正
  • 2024-08-30计算机的错误计算(七十七)
    摘要 探讨反余弦函数acos(x)的错误计算。例1. 计算acos(0.999999999999).    若用Java中函数计算:importjava.lang.Math;publicclassAcos{publicstaticvoidmain(String[]args){doublex=0.999999999999;doubleresult=M
  • 2024-08-27计算机的错误计算(七十四 )
    摘要 回复网友的疑问:用错数解释计算机的错误计算(六十四)中的错误计算原因。    计算机的错误计算(六十四)到(六十九),以及(七十一)与(七十三)分别阐述了不同三角函数在   或    附近数的计算精度问题。有网友问:能否用错数解释这些三角函数的错误计算原因?答:本节以(六
  • 2024-08-20计算机的错误计算(六十七)
    摘要 计算机的错误计算(五十六)与(六十六)分别探讨了大数与 附近数的正切函数值的错误计算。本节讨论第三种类型数值: 附近数的正切函数的计算精度问题。例1. 已知   计算     先用Go语言计算:packagemainimport("fmt""math")funcmain(){
  • 2024-08-16计算机的错误计算(六十三)
    摘要 计算机的错误计算(五十六)探讨了大数的正切函数值的错误计算。本节讨论大数的余切函数的计算精度问题。例1.  已知  计算      不妨用3种方法计算。(1)在Python中利用     直接贴图:(2)在Java 中利用     若运行下列代码impo
  • 2024-08-13计算机的错误计算(六十)
    摘要 用另一种方法计算计算机的错误计算(五十五)中案例:先使自变量与 取余,再计算取余后的余弦值,这时,得到了不同的输出。因此,即使不清楚正确结果,Python与VisualStudio也各自自证错误。    有网友反映,对于(五十五)中案例,若按照(五十四)中方法,先使自变量与 取余,再计算取
  • 2024-08-07计算机的错误计算(五十四)
    摘要 回复网友关于正确计算计算机的错误计算(五十一)与(五十二)中所述案例时的3点注意事项。问:对于计算机的错误计算(五十一)中的案例  ,由(五十二)知,只有正弦函数自变量的整数位数全部取到,才能有正确结果。即那么在计算31位的整数的正弦值时,有哪些注意事项?答:对于超越函数,大家
  • 2024-07-31计算机的错误计算(四十七)
    摘要 谈谈可能影响天气预报WRF软件计算稳定性的两个因素。    许多年前,某气象部门换了台服务器,数据不变,但WRF系统的输出结果变了。如果您将本《计算机的错误计算系列》从头看到尾,或者读了计算机的错误计算(一)、(二)、(五)、(四十五)以及(四十六),那么相信您对此不稳定计算不
  • 2024-07-28计算机的错误计算(四十四)
    摘要 机器算错了吗?是的,算错了!机器算对了吗?是的,算对了。    计算机的错误计算(一)中例1介绍了计算机对 Rump给出的算式  (其中)的错误计算:正确结果是,但是,计算机给出了错误结果。比如,在Sun机器上用Fortran程序计算,32位、64位精度下的结果分别为,.   
  • 2024-07-27计算机的错误计算(四十二)
    摘要 计算机的错误计算(四十一)展示了PyTorch库的矩阵乘积的结果的精度问题。本节指出精度损失的部分原因是相减相消。    不可否认,表示误差会导致计算误差。然而,表示误差一般来说会使得数值具有一定的精度。例如,在单精度浮点数下,通常可以保证约8位有效数字,而后面
  • 2024-07-25计算机的错误计算(四十一)
    摘要 本节将分析一个深度学习中的“HelloWorld”程序的计算精度问题。该程序利用PyTorch库创建了一个权重矩阵W和一个特征矩阵X,然后通过矩阵乘法计算得到结果矩阵Y。通过本节及后续的分析,将展示影响深度学习效果的一个潜在因素。    直接贴图如下代码:  
  • 2024-07-24计算机的错误计算(四十)
    摘要 计算机的错误计算(三十九)阐明有时计算机将0算成非0,非0算成0;并且前面介绍的这些错误计算相对来说均是由软件完成。本节讨论手持式计算器对这些算式的计算效果。例1. 用手持式计算器计算 与  .    我们用同一个计算器计算上面二式。从下图可知,输出分别为 
  • 2024-07-19计算机的错误计算(三十四)
    摘要 用错数预测 (或 pow(a,x))函数的结果中含有的错误数字的个数,并与VisualStudio和Excel的输出中含有的错误位数相比较。结果显示,预测与实际一致。    对于 (或 pow(a,x))函数,根据 与 的不同,有多种计算算法。其中一种计算方法是利用等价公式  来计算。例1.
  • 2024-07-18计算机的错误计算(三十三)
    摘要 计算机的错误计算(三十二)展示了Python的math库中exp(x)的计算精度问题。本节讨论Python的torch库中的exp(x)的计算精度问题。结果显示:与math库中的函数输出值具有同样的错误数字个数。     不妨仍然取(二十八)中的案例:1.2345,4.567,56.789,87.654,123.45,700
  • 2024-07-16计算机的错误计算(三十二)
    摘要  在计算机的错误计算(二十八)与(三十一)中,我们探讨了 VisualStudio对6个随机exp(x)函数的计算精度问题。根据网友的反馈,本节将展示Python对它们的输出:结果几乎与 VisualStudio运行产生的输出结果完全一致。因此,输出中的错误数字个数也完全相同。于是,无论是Python
  • 2024-07-11计算机的错误计算(二十七)
    摘要 介绍错数:任给一个单变元函数,当自变量被截断时,函数值中含有的错误的有效数字个数,并给出其计算方法。    首先,从字面上看,错数表示错误的有效数字个数。    下面从一个略显粗糙的化简过程,推出错数的计算方法。    众所周知,导数是函数的变化量与自
  • 2024-07-11计算机的错误计算(二十六)
    摘要 结合计算机的错误计算(二十四)中的Maple环境下的计算过程,(二十五)讨论了(不)停机问题。事实上,其它数学软件比如Mathematica 也存在该问题。   (不)停机问题是:当计算机算出的结果为0时,它不知是否该提高精度继续计算。一般具有高精度计算功能的软件均存在这个问题。前
  • 2024-07-08计算机的错误计算(二十四)
    摘要 计算机的错误计算(二十一)就案例  展示了“两个不相等数相减,差为0”。本节给出新的计算过程:不停增加计算精度直到出现非0结果。这个过程与结果表明,即使是专业数学软件,对这个问题的处理,也不尽完美。    对于  来说,正如计算机的错误计算(二十一)所述,双精度下,其输
  • 2024-07-05计算机的错误计算(二十)
    摘要 解释计算机的错误计算(十九)中展示的  的错误计算原因。    计算机的错误计算(十九)讨论了计算机的错误计算:.    下面介绍其出错原因。    首先,若单独计算,则Python采用的是高精度计算,其计算结果是准确的;在后面参与相减运算时,又会将其截断成
  • 2024-06-18计算机的错误计算(七)
    摘要  介绍计算机对 exp(x)以及pow(x,y)函数的错误计算误差。例1. 计算exp(650.984)的值。   不妨用下列C代码计算:则在VisualStudio2010下保留有15位有效数字的值为 0.523309968064614e283。与15位的正确结果 0.523309968064595e283相比,后面3位