首页 > 其他分享 >浮点类型及使用细节

浮点类型及使用细节

时间:2022-09-27 00:33:48浏览次数:49  
标签:num1 num2 double float 5.12 浮点 细节 类型

单精度float

双精度double

浮点数再机器中存放形式简单说明,浮点数 = 符号位 + 指数位 + 尾数位

尾数部分可能丢失,造成精度损失

 

1、java浮点类型有固定的范围和字段长度,不受具体os影响

2、java浮点型常量默认为double型,声明float型常量,须后加“f”或“F”

3、浮点型常量有两种表示形式   十进制数形式:如5.12   512.0f    .512(必须有小数点)   科学计数法形式:5.12e2(5.12*10的2次方    5.12e-2(5.12/10的2次方)

4、通常情况下,应该使用double类型,因为它比float更精确 如 double num1 = 2.1234567851;  float num2 = 2.1234567851F;

5、浮点数使用陷阱   2.7 和 8.1 / 3比较

double num1 = 2.7 ;

double num2 = 8.1 / 3 ;

当我们对运算结果是小数的,进行相等判断是,要小心,应该是以两个数的差值的绝对值,在某个精度范围内判断

Math.abs(num1 - num2)        if(Math.abs(num1 - num2) < 0.00000001)

 

标签:num1,num2,double,float,5.12,浮点,细节,类型
From: https://www.cnblogs.com/bottomgg/p/16733089.html

相关文章

  • 整型细节
    1、java各整数类型有固定的的范围和字段长度,不受具体OS影响,以保证java程序的可移植性2、java的整型常量默认为int型,声明long型常量必须加“l”或“L”3、java程序中变量......
  • Pest24实验部分细节总结
    1.整体实验部分实验应用了四种最先进的深度学习方法,即。两个两阶段检测器,FasterRCNN(Ren等人,2015)和CascadeRCNN,Cai和Vasconcelos,2018),以及两个一阶段检测器,SSD(Liu等人,2015......
  • 数据类型与逻辑运算
    数据类型与逻辑运算数据类型数据类型分为整型、浮点型、列表、字符串和字典整型Int大白话就是整数应用场景:年龄、班级人数eg:name='kevin'age=18stu_......
  • python基本数据类型二
    python基本数据类型二1.布尔值bool描述用于判断事物的对错,是否可行,主要用于流程控制状态只有两种状态True和falseTrue对的,真的,可行的False错的,假的,不可行......
  • TypeScript:类的类型变量
    classPerson{//脱衣服privatedisrobe(){//.....}//穿衣服privatedress(){//.....}//洗操publictak......
  • TypeScript:类型断言
    什么是类型断言有些时候,我们需要做一些“自己比编译器更清楚的知道自己在做什么”,这个时候就用到断言,告诉编译器:没错,就是这样的,就是要这么干。编译器也就假设:嗯,这个程序员......
  • golang程序健壮性相关细节
    结构体定义1、请问下面输出是什么packagemainimport("fmt")funcmain(){l:=get()fmt.Printf("%p",l)fmt.Printf("%p",l.List)for......
  • Python数据类型+运算符
    Python基础数据类型上期练习讲解#练习一.想办法打印出jasonl1=[11,22,'kevin',['tony','jerry',[123,456,'jason']]]#解题思路,先看列表中有几个数......
  • 基本数据类型(补)及各种运算符
    1、昨日内容回顾python注释编写注释意义、注释添加方法变量的赋值赋值基本原理变量的使用命名原则、编写风格常量的使用常量的命名python常见数据......
  • 基本数据类型
    数据类型在记录变量或者常量时,数据值需要合适的类型进行记录,比如等级可以用数字记录,比如名字需要用文字记录,在python中,有几个常用的数据类型需要掌握,能帮助我们更好的......