首页 > 其他分享 >半精度、单精度和双精度浮点数的表示

半精度、单精度和双精度浮点数的表示

时间:2024-08-18 10:38:26浏览次数:8  
标签:阶码 单精度 浮点数 位数 位域 精度

浮点数表示

概述

浮点数有三种精度,不同的精度的存储位数,数值范围,精度,内存消耗和性能上有所不同

精度越大 精度越小
存储位数
数值范围
精度
内存消耗
性能

半精度浮点数

一个双精度浮点数占2个字节(16位)

位域 位数
符号 1
阶码 5
尾数 11

单精度浮点数

一个单精度浮点数占4个字节(32位)

位域 位数
符号 1
阶码 8
尾数 23

双精度浮点数

一个双精度浮点数占8个字节(64位)

位域 位数
符号 1
阶码 11
尾数 52

标签:阶码,单精度,浮点数,位数,位域,精度
From: https://www.cnblogs.com/xddisme/p/18365350

相关文章

  • 高精度加减乘
    #include<bits/stdc++.h>usingnamespacestd;typedeflonglongll;inta[10088],b[10087],c[10087];stringmem("0123456789ABCDEF");boolcheck_(stringa,stringb){ if(a.length()>b.length())return1; if(b.length()>a.length())return0......
  • 高精度减法与混合加法
    高精度减法bigNumbigSub(bigNum*a,bigNum*b){ bigNumc; for(inti=0;i<a->len||i<b->len;i++) { if(a->num[i]<b->num[i]) { a->num[i]+=10; a->num[i+1]-=1; } c.num[i]=a->num[i]-b->num[i];......
  • 【漫谈C语言和嵌入式007】AD2S1210简介与应用:高精度旋转变压器到数字转换器的解析
            在精密运动控制和测量系统中,旋转变压器(Resolver)是一种常用的传感器,能够精确检测旋转轴的位置和速度。为了将旋转变压器的模拟信号转换为数字信号,便于微控制器或DSP进行处理,AD2S1210作为一款高性能的旋转变压器到数字转换器(RDC),为工程师提供了高精度、低延迟的......
  • 浮点数的加减乘除运算细节
    浮点数的加法和减法运算是计算机中最常见也是最复杂的运算之一。由于浮点数的内部表示由符号(Sign)、指数(Exponent)和尾数(Mantissa)三部分组成,浮点数的加减法运算必须处理这些部分之间的复杂关系。以下是浮点数相加或相减的详细运算步骤:1.浮点数表示的回顾符号位(Sign):表示浮点数的......
  • 爆改YOLOv8 || 利用Gold-YOLO提高YOLOv8对小目标检测精度
    1,本文介绍Gold-YOLO通过一种创新的 聚合-分发(Gather-and-Distribute,GD)机制 来提高信息融合效率。这一机制利用卷积和自注意力操作来处理来自网络不同层的信息。通过这种方式,Gold-YOLO能够更有效地融合多尺度特征,实现低延迟和高准确性之间的理想平衡.关于GOLD-YOLO的详细......
  • 高精度运算——大数加法与乘法
    要点:加法直接传递进位,乘法先保留进位,后统一处理使用int数组存储,空间浪费,处理方便建立bigNum结构(或类),处理清晰方便代码:基础定义#include<bits/stdc++.h>usingnamespacestd;charnum1[10000];charnum2[10000];structbigNum{ intnum[1000]={}; intlen;};vo......
  • SciTech-BigDataAIML-LLM-Transformer Series-Positional Encoding: 位置编码: 统计模
    词汇WE(WordEmbedding):词嵌入PE(PositionalEncoding):位置编码统计模型和大数据的本源是由"MI(移动互联网)"和"IoT(万物互联)"决定的1真正改驱“改革生产生活习惯”的是“国家政策”与“政府”。新经济的产生是以“改革生产生活习惯”为前提.生产生活的习惯改变:行政......
  • 编写程序打印所有 FP8(E4M3)格式的浮点数
    FP8(e4m3)是一种浮点数表示格式,其中:e4表示有4位用于指数。m3表示有3位用于尾数(即有效数字)。为了生成并打印所有FP8(e4m3)格式的浮点数,我们需要了解这个格式的细节。FP8(e4m3)的格式可以分解为:符号位(1位)指数(4位)尾数(3位)我们可以用以下步骤来生成所有可能......
  • 高精度光学测量工具MXoptiCal,分分钟搞定实车测试数据对标
    一、产品概述  在实车ADAS/AD功能测试时,工程师需要在车上安装更高精度的传感器来对车辆的参照物距离进行准确测量,从而判断ADAS/AD功能实现的准确性,因此也需要车上准确的对照点位置。 MXoptiCal是由德国MdynamiX公司开发的一款高精度光学测量工具,旨在实现简便且重复性高的......
  • 浮点高精度
    简单封装了一下浮点加法乘法,未验证structBigFloat{staticconstintN=100,n=16;//位数,保留位数vector<int>integer;//整数部分(逆序存储)123.-->321.vector<int>decimal;//小数部分(正序存储).456-->.456intintegerSize;//整数长度intdecim......