首页 > 其他分享 >JYY 数据的机器级表示:整数和浮点数

JYY 数据的机器级表示:整数和浮点数

时间:2023-01-31 14:56:30浏览次数:51  
标签:误差 浮点数 整数 JYY 归一化 越大

总结:这节课内容很有趣,但对我来说,可能未来5年都不会用上

 

 啊

 

 啊

 

 没懂,但感觉没必要懂

 

 啊

 

(没懂,暂时应该没必要)

 

 

 

 

 

 

 

 啊

 

 

 浮点数距离 FLOAT_MAX 越接近,误差越大

 

当 x = NaN 的时候, x != x 是成立的

 

由于绝对值越大的浮点数误差越大,很多数学库都会频繁做归一化

 

 

 

 

 

 

 

 

 

标签:误差,浮点数,整数,JYY,归一化,越大
From: https://www.cnblogs.com/yinhuachen/p/17078632.html

相关文章