首页 > 其他分享 >数据做无损定点化,需要的最小位宽是多少位?

数据做无损定点化,需要的最小位宽是多少位?

时间:2024-07-23 13:00:15浏览次数:11  
标签:0.00390625 最小 0.0078125 0.918 量化 无损 精度 定点

以一道经典笔试题为例:对12.918做无损定点化,需要的最小位宽是多少位,位宽选择11位时的量化误差是多少?

        首先,明确一个知识点:无损量化,即量化误差小于量化精度的一半。

        因此,对于整数,12需要的4位( 0~15) 二进制。

        12bit量化的情况:整数占4bit, 小数占8bit, 量化精度为1/( 2^8)= 1/256= 0.00390625。
        则0.918需要:0.918/0.00390625=235.008个精度表示, 四舍五入为235。
        235个精度所表达的数为:235*0.00390625=0.91796875。
        量化误差为:0.918-0.91796875=0.00003125,也可以表示为舍弃的0.008*量化精度0.00390625,即为0.00003125,小于量化精度的一半( 0.00390625/2)
所以认为无损量化,12bit即可满足要求

        11bit量化的情况:整数占4bit, 小数占7bit, 量化精度为1/( 2^7)= 1/128= 0.0078125。
        则0.918需要:0.918/0.0078125=117.504个精度表示, 四舍五入为117。
        117个精度所表达的数为:117*0.0078125=0.921875。
        量化误差为:|0.918-0.921875|=0.003875,同样可以表示为增加的0.496个刻度*量化精度0.0078125,即为0.003875
 

标签:0.00390625,最小,0.0078125,0.918,量化,无损,精度,定点
From: https://blog.csdn.net/qq_45803095/article/details/140566196

相关文章

  • 最小表示法
    最小表示法字符串\(S\)的最小表示为与\(S\)循环同构的所有字符串中字典序最小的字符串。一般用于判断两个字符串是否循环同构。只需要都用最小表示,然后判断即可。考虑如何构造。这里oiwiki解释的很清楚。就不做过多解释了。复杂度\(O(n)\)inti=1,j=2,k;while(i<......
  • 代码随想录算法训练营第35天 | 动态规划1:509.斐波那契数、70.爬楼梯、746.使用最小花
    代码随想录算法训练营第35天|动态规划理论基础https://programmercarl.com/动态规划理论基础.html#算法公开课509.斐波那契数https://leetcode.cn/problems/fibonacci-number/submissions/548309803/代码随想录https://programmercarl.com/0509.斐波那契数.html#算法公开......
  • 洛谷 求m区间内的最小值
    原题p1440题目描述一个含有 ......
  • 代码随想录数组二刷:长度最小的子数组(滑动窗口)
    代码随想录数组二刷:长度最小的子数组(滑动窗口)leetcode209这道题采用滑动窗口的思想去做。实现滑动窗口,主要确定如下三点:窗口内是什么?如何移动窗口的起始位置?如何移动窗口的结束位置?窗口就是满足其和≥s的长度最小的连续子数组。窗口的起始位置如何移动:如果当前窗口......
  • 代码随想录算法训练营第十七天 | 530.二叉搜索树的最小绝对差 、 501.二叉搜索树中的
    530.二叉搜索树的最小绝对差 题目:.-力扣(LeetCode)思路:中序遍历搜索二叉树,使用双指针来计算绝对值。代码:/***Definitionforabinarytreenode.*structTreeNode{*intval;*TreeNode*left;*TreeNode*right;*TreeNode():val(0),......
  • 堆的概念(最大堆和最小堆)以及使用堆的实际应用场景
    堆(Heap)的概念堆是计算机科学中一类特殊的数据结构的统称,它通常可以被看作是一棵完全二叉树的数组对象。堆总是满足以下性质:堆属性:堆中某个节点的值总是不大于(最小堆)或不小于(最大堆)其父节点的值。完全二叉树:堆的物理结构是顺序存储的,即使用数组来表示,且满足完全二叉树的性质,即......
  • CF1364D Ehab's Last Corollary 题解 (构造/独立集/找最小环)
    题意给出一张n个点的无向连通图和一个常数k。你需要解决以下两个问题的任何一个:找出一个大小为\(\lceil\frack2\rceil\)的独立集。找出一个大小不超过k的环。独立集是一个点的集合,满足其中任意两点之间在原图上没有边直接相连。可以证明这两个问题必然有一个可以......
  • D3 广搜(最小步数)
    图的遍历——广度优先搜索题目描述广度优先搜索遍历类似于树的按层次遍历的过程。其过程为:假设从图中的某顶点0出发,在访问了0之后依次从小到大访问各个未曾被访问过的邻接点,然后分别从这些邻接点出发依次访问它们的邻接点,并使“先被访问的顶点的邻接点”先于“后被访问的顶点......
  • python-最小公倍数(PythonTip)
    [题目描述]编写一个程序,找出能被从1到给定数字n(包括n)的所有数字整除的最小正数(即最小公倍数)。定义函数smallest_multiple()的函数,参数为n。在函数内,返回能被从1到给定数字n(包括n)的所有数字整除而无余数的最小正数。示例输入:5示例输出:60比如,对于输入5,最小公倍数是60,因为......
  • 2439. 最小化数组中的最大值
    题目链接:看到“最小化最大值”想到二分答案。我们猜测一个上界\(\rmlimit\),\(\rmlimit\)越大越符合条件,越小越不易符合条件,满足单调性。由于当前维护的是数组经过操作是否满足最大值为\(\rmlimit\),可以从后往前遍历,遇到比\(\rmlimit\)大的就把大的那部分减去加到前一个......