首页 > 其他分享 >浮点数是否相等

浮点数是否相等

时间:2023-02-21 14:45:09浏览次数:27  
标签:相等 计算机 0.000001 是否 浮点数 float 精度

计算机表示浮点数(float或double类型)都有一个精度限制,对于超出了精度限制的浮点数,计算机会把它们的精度之外的小数部分截断。因此,本来不相等的两个浮点数在计算机中可能就变成相等的了

abs( fa - fb) < 0.000001

标签:相等,计算机,0.000001,是否,浮点数,float,精度
From: https://www.cnblogs.com/xiaoqing-ing/p/17140966.html

相关文章