网站首页
编程语言
数据库
系统相关
其他分享
编程问答
01101000
2024-12-10
float有效位数
6位是绝对有效数字。第7位有时候准确,有时候不准确。 例1floatf1=1234560.991f;Console.WriteLine($"{f1}");执行上面的代码,会输出1234561,这个例子中就是第7位数字不准。按float转二进制步骤分析下:1)整数部分的二进制为: 100101101011010000000,共21bit2)小数部