首页 > 其他分享 >3 * 0.1 == 0.3将会返回什么?为什么?

3 * 0.1 == 0.3将会返回什么?为什么?

时间:2024-08-17 20:49:15浏览次数:13  
标签:返回 0.1 demo 0.3 二进制 十进制 小数

先说结果:fasle

首先了解下基础知识:

十进制整数转换为二进制整数:"除2取余,逆序排列"

demo如下:

 

 

 十进制小数转换成二进制小数采用"乘2取整,顺序排列"法

demo如下:

 

 

 我们拿10进制下的0.1来说,在二进制中其值大概是:0.10000000000000000555111512312578270211815834045410156

所以说在计算机中我们理解的十进制的0.1被转换成了可能是无穷位小数的二进制。

这就是为什么 3 * 0.1 != 0.3的原因

标签:返回,0.1,demo,0.3,二进制,十进制,小数
From: https://www.cnblogs.com/houss/p/18364947

相关文章