首页 > 其他分享 >定点 fir 小结与思考

定点 fir 小结与思考

时间:2022-11-21 14:56:30浏览次数:50  
标签:fir 四舍五入 浮点数 整数 定点 小结 无损 小数

  1. 用定点(整型)来代表 浮点数,那么 选择 Qn的n 就需要首先考虑 范围
    • 应该为 第一个数 是符号,第二到第n个数表示需要表示的范围
    • Q15 是小数点从左数还是从右数? 怎么记得?
    • n 是代表用整数位表示小数的位数,n越大,则精度越高 1/2^n ,但n越大,剩余的整数位会越小,表示的范围越小, 2^(16 -1[符号位]-n)是代表的范围。一定要确定好范围 , q15的范围是 -1 到 1 - 2^15
  2. 是滤波系数和信号都需要用浮点来表示还是?
    • 应该是都是需要用定点来表示,结果需要 >> 右移, 两个 q15相乘变成 q30,再进行右移,变成 q15,再进行 四舍五入...
  3. 如何转化过来
  4. 定点的优势和劣势,劣势如何避免
    1. 四舍五入, 通过 sum += 0x4000 (Q15的情况下,四舍五入)
    2. 所谓【无损定点化】只是数学概念,只要量化误差小于精度的一半,就认为是“无损”的。按照这个标准,那对小数点采取四舍五入的结果必然是无损的。但是校招时很多题采取的是“量化后直接去除小数”,那么小数大于 0.5 则不是无损的了。
      • 题目:12.918 做无损定点化,最小误差是多少?
      • 思路:什么叫 量化误差小于精度的一半 量化误差,什么叫精度。 首先12,必须满足 12=2^4,4位。
      • 假设 1位1位的增加
      • 0.198*(2^6)=58.752 ,整数部分为58,再返回 浮点数 58/(2^6)=0.90625
      • 0.198*(2^7)=117.504,整数部分为117,再返回 浮点数 117/(2^7)=0.9140625
      • 0.198*(2^8)=235.008,整数部分为235,再返回 浮点数 2357/(2^8)=0.91796875 去3位,0.918
      • 所以小数Q8,整数部分4位,最小位宽12位。
      • 另一种简便方法,当58.752 ,117.504,235.008 哪个小数部分小于0.5时,则为无损。(好像并不是必要充分条件)

标签:fir,四舍五入,浮点数,整数,定点,小结,无损,小数
From: https://www.cnblogs.com/Nicoooolas/p/16911380.html

相关文章

  • [WSDM 2022]An Effective Graph Learning based Approach for Temporal Link Predicti
    [WSDM2022]AnEffectiveGraphLearningbasedApproachforTemporalLinkPrediction:TheFirstPlaceofWSDMCup2022总结传统模型+拓扑结构中生成更多的特征实现......
  • 解决CoAP调试工具Copper不兼容Firefox的问题
    CoAP调试工具Copper是Firefox的一个插件,这个插件能支持的Firefox最高版本是52.0,与新版的Firefox不兼容,要使用Copper只能安装Firefox52.0。Copper插件兼容问题......
  • 11.15-11.18周末小结
    目录一、软件开发架构1.C/S架构2.B/S架构二、网络编程简介1.什么是网络编程2.学习网络编程的目的3.网络编程的发展史4.网络编程必备条件四:OSI七层协议模型和TCP/IP四层协议......
  • web网站置灰 哀悼 支持多firfox
    对于后台管理系统:html{filter:progid:DXImageTransform.Microsoft.BasicImage(grayscale=1);}或者:html,div,img,span,table{filter:gray;}----......
  • 0-1背包问题小结
    使用二维数组的情况先直接上代码。#include<iostream>#include<vector>//bits/stdc++.h文件在实际开发中不要使用//在VScode中似乎已经限制了bits/c++.h的使用。//#......
  • 卷影删除小结
    一、几种系统方式卷影删除1.1WMICcmd.exe/cC:\\Windows\\System32\\wbem\\WMIC.exeshadowcopywhere\"ID='%s'\"delete1.2VSSADMINvssadminDeleteShadow/......
  • CodeForces - 372C Watching Fireworks is Fun
    题意:有n个点,其中m个要放烟花。每个放烟花的点有属性b[i],放的时间t[i]和位置a[i]。假设放烟花的时候你在位置x,那么可以获得快乐b[i]-|x-a[i]|。你走来走去地看烟花,起始位置......
  • 牛客java基础语法在线编程-知识点小结(待完善)
    知识点小结一、输入输出Scanner类Scanner类在java.util包下,导包格式如下:importjava.util.Scanner;使用示例:importjava.util.Scanner;classMain01{publ......
  • 再探 游戏 《 2048 》 —— AI方法—— 缘起、缘灭(1) —— Firefox浏览器下自动运行游
    本文为续篇,前篇为:再探游戏《2048》——AI方法——缘起、缘灭(1)——Firefox浏览器下自动运行游戏篇   ==================================================  ......
  • First博客
    VScode安装教程**你章哥**帅哥全是干货啊啊啊啊1.下载VScode软件[点击此处跳转到VScode官网](VisualStudioCode-CodeEditor。重新)(按住ctrl不会覆盖当前......