网站首页
编程语言
数据库
系统相关
其他分享
编程问答
0.0078125
2024-07-23
数据做无损定点化,需要的最小位宽是多少位?
以一道经典笔试题为例:对12.918做无损定点化,需要的最小位宽是多少位,位宽选择11位时的量化误差是多少? 首先,明确一个知识点:无损量化,即量化误差小于量化精度的一半。 因此,对于整数,12需要的4位(0~15)二进制。 12bit量化的情况:整数占4bit,小