首页 > 其他分享 >浮点数

浮点数

时间:2022-11-26 15:44:39浏览次数:104  
标签:相等 函数 fabs int 浮点数 abs

一、浮点数的比较

浮点数和整型数在计算机中表示的方式不相同,整型数能够直接比较相等,但是浮点数不能直接比较是否相等,如下:

int main()
{
    int n=0;
    float val=1.0, x1=1.9/2.1, y2=2.1/1.9;
    for(int i=0;i<21;++i)
        val *= x1;
    while(val!=1.0)
    {
        val *=y2;
        n++;
    }
    printf("%d \n", n);
    return 0;
}

上述程序的输出结果是:无限循环。
因为while条件中,两个无符号数直接进行了相等比较。一般,我们在比较两个浮点数是否相等时,采用abs(x1-x2)<1e-7。

二、fabs和abs的区别

函数fabs的作用是求浮点数x的绝对值;函数abs的作用是求x的绝对值。fabs函数原型:double fabs(double x);abs函数原型:int fabs(int x)。fabs函数参数:参数x是一个浮点数;abs函数参数:参数x是一个整数。

标签:相等,函数,fabs,int,浮点数,abs
From: https://www.cnblogs.com/sggggr/p/16927534.html

相关文章

  • C语言浮点数
    文章目录​​一、浮点数的概念​​​​二、占用内存的情况​​​​三、浮点数的精度​​​​1、测试float类型​​​​2、测试double类型​​​​3、测试longdouble类型​......
  • C语言把浮点数转换为二进制数的方法和示例
    文章目录​​1、整数部分转二进制字符串的方法​​​​2、小数部分转二进制字符串的方法​​​​3、示例程序​​​​4、获取视频教程​​​​5、版权声明​​浮点数据转换......
  • C# 使用SIMD向量类型加速浮点数组求和运算(3):循环展开
    作者:zyl910目录一、背景1.1循环展开简介1.2测试准备二、在C#中使用2.1对基础算法做循环展开2.1.1测试结果:2.2对Vector4版算法做循环展开2.2.1测试结果:2.3对V......
  • IEEE-754浮点数标准与JavaScript中的number
    1、概述如何使用8个字节表示特定的数字(整数或小数),其中要满足精度足够高,和表示的数字尽可能的大。聪明的你肯定想到使用科学计数法来表示,其中64位中,需要包含确定正负的符号......
  • 浮点数比较和计算机内部数据转换
    浮点数的比较问题问题描述输出:no问题解释计算机内部以二进制储存,一切数据都将转化为二进制储存在计算机中一个小数分为整数部分和小数部分而小数和整数的转化为二......
  • 从0.2+0.4不等于0.6说浮点数
    浮点数的表示从0.2+0.4不等于0.6说浮点数,浮点数我一直心存疑惑。下面文章小数特指十进制数字,浮点数特指计算机存储的格式。现代计算机的一般的浮点数都是遵循IEEE754标准。......
  • visual c++6.0对浮点数处理器的初始化
       <C++反汇编与逆向分析>的作者在书中P21页列写了一段代码:intmain(){intnInt0;scanf("%f",&nInt);}并简短的提到,运行上面这段程序并输入小数,将会导致程序崩......
  • IEEE的浮点数表示
    存储格式如下(32位的float为例):3231~2322~0SEM数值计算公式:V=(-1)^S*M*2^E类似数学中的科学表示法,但是换成二进制的,S是符号,用来表示正......
  • python精确计算浮点数
    因为二进制计算的问题,部分浮点数不能精确计算,如>>>1.1+2.23.30000000000003可以使用round(number,保留位数)或decimal包fromdecimalimportDecimala=Decima......
  • (文件操作)将键盘输入n个学生信息写入二进制文件stu.dat,其中学号11个字符长度、姓名10个
    样例输入220180861101张亚佳1891.520180861102韩云飞1989.5 样例输出文件内容:[b'20180861101\xd5\xc5\xd1\xc7\xbc\xd1\x00\x00\x00\x00\x13\x00\x00\x00\x0......