首页 > 其他分享 >浮点数的定点化

浮点数的定点化

时间:2023-03-25 11:14:31浏览次数:41  
标签:12 浮点数 定点 小数 256 无损 255

例题

1、【大疆】对 12.918 做无损定点化,需要的最小位宽是多少位?位宽选择 11 位时的量化误差是多少?

A 13位,0.0118B 12位,0.0118C 13位,0.0039D 12位,0.0039

分析:(1)整数 12 需要 4bit。假设位宽选择12位,即小数需要 8bit,12.918 * 2^8 = 3307.008,定点化后的小数小于0.5,可以看成是【无损定点化】,固答案为 12 位;(2)位宽选择11位,即小数需要 7bit,12.918 * 2^7 = 1653.504,量化误差为 0.504/2^7 = 0.0039375,固答案为0.0039。

答案:结合分析,得出答案为D。

无损定点化

定点化处理中存在量化误差,该量化误差能进行计算。当我们对小数部分定点化处理后,得到一个整数值,该整数值/最大定点化整数值,即可得到该小数部分的反量化值,然后减去原来的小数部分,即可得到误差,再次利用有效位进行比对,即可知道是否为无损误差。
比如:0.928 用 8位定点化
1、则换成整数:0.928*256 = 238
2、对其反量化:238/256=0.930
3、减去原来的小数部分 0.930-0.928 = 0.002
4、有效位比对 ,原来的小数部分有效位3位,而0.002 小数点后后第三位是2,因此不是无损误差。

(4条消息) FPGA中浮点数的定点化处理技术及高斯模板定点化处理方法_Fighting_XH的博客-CSDN博客

 

例子

★:如果一组数据中有256、255、254、253~1、1/2、1/3、1/4~1/255,如果使用浮点数定点化将他们无损表示出来?

1/256 = 0.00390625
1/255 = 0.00392156
1/254 = 0.00395256
1/253 = 0.00396825

目标:找到能够区分256~1/256的一组定点数

思路:找出1/255-1/256 or 1/253 - 1/254 or 1/n - 1/(n+1)的最小值,并用1/2^n次方进行对比,如果该值小于最小值,则表明可以使用该n次方作为定点化时放大倍数。

1/255 -1/256 = 0.00392156 - 0.00390625 = 0.00001531

1/2^14 = 0.00006103515625 

1/2^15 = 0.000030517578125

1/2^16 = 0.0000152587890625

因此最少应该使用16作为最小放大倍数实现无损定点化。

标签:12,浮点数,定点,小数,256,无损,255
From: https://www.cnblogs.com/powerforme/p/17137780.html

相关文章

  • 计算机定点数和浮点数
    一、概念1.定点数定点数表示法约定==计算机中所有数据的小数点位置固定==,其中,将小数点的位置固定在数据的最高位之前(或符号位之后)的数据表示称为定点小数,而将小数点固定......
  • [嵌入式RTOS]记录一下因浮点数转为字符串导致精度损失所踩的坑
    1.起因:工作中对接平台需要将设备的GPS数据传给平台,但是平台采用的不是回调函数将数据直接作为参数返回而是格式化的字符串命令,所以需要将double类型的gps数据格式化输出到......
  • 浮点数编码原理
    1前言​计算机中浮点数的编码,由美国加州大学的WilliamKahan教授于1985年设计,后被IEEE借鉴,制定出IEEE浮点标准。​浮点数在计算机中的二进制编码由符号......
  • 浮点数:整数运算的结果只能有整数部分,不然就要用到浮点数
     要做单位换算的代码如下:执行结果  结果显示英寸的变化好似不影响结果  浮点数        ......
  • 3.5 写题小问题 -浮点数
    代码精度不熟悉给我搞了一个小时点击查看代码#include<stdio.h>/*当当网每年书香节都推出购书优惠活动:每满100元就减50元。请编写程序,输入你购书的金额,计算并输出......
  • 定点数据和浮点数据
    定点数据和浮点数据数字信号处理的输入源通常都是物理世界的模拟信号,其电平的表示是连续,数字处理会对其进行抽样,在算法阶段,会按照浮点运算的方式进行算法性能仿真,以便于评......
  • 算法基础1.2.2浮点数二分
    前言直接先把整数二分看完看整数二分文章点这里现在只需要补充几个特点(其实整数二分的博客的前言就介绍了一些)就可以了由于浮点数二分没有向下取整的特性(不懂的话就去......
  • js浮点数精确计算函数(加,减,乘,除)
    js浮点数精确计算函数(加,减,乘,除)//浮点数加法运算functionFloatAdd(arg1,arg2){varr1,r2,m;try{r1=arg1.toString().split(".")[1].length}catch(e){r......
  • 实型(浮点数类型)
    实型常量3.14    3.14f以f结尾的实型常量是float类型,不以f结尾的实型常量是double类型 实型变量floatf=0.0f;       //float......
  • 浮点数是否相等
    计算机表示浮点数(float或double类型)都有一个精度限制,对于超出了精度限制的浮点数,计算机会把它们的精度之外的小数部分截断。因此,本来不相等的两个浮点数在计算机中可能就......