首页 > 其他分享 >浮点数

浮点数

时间:2024-07-26 21:17:38浏览次数:15  
标签:FP32 浮点数 左移 底数 0x0078 FP16

FP32:

1bit符号位,10bit指数,23bit底数位。
image

FP16:

1bit符号位,5bit指数,10bit底数位。
image

FP16转FP32
  1. NAN/INF:对应的FP32的值
  2. +0/-0: +0/-0
  3. normal:指数+0x70,底数左移13位
  4. subnormal:对应的FP32属于normal,需要继续左移至最高位为1的省略掉。(0x0078, 需要左移四位),指数+0x70-(x-1)(x为底数左移位数,-1是额外左移值-1)
    例如:FP16的0x0078转换成FP32是0x36F00000.

https://blog.csdn.net/ysaeeiderup/article/details/124104042

标签:FP32,浮点数,左移,底数,0x0078,FP16
From: https://www.cnblogs.com/xuekui-jin/p/18326264

相关文章

  • 如何阻止 numpy 浮点数显示为“np.float64”?
    我有一个很大的图书馆,里面有很多文档测试。所有文档测试都在我的计算机上通过。当我将更改推送到GitHub时,GitHubActions在Python3.8、3.9、3.10和3.11中运行相同的测试。所有测试均正确运行在Python3.8上;但是,在Python3.9、3.10和3.11上,我收到许多以下类型的错......
  • Python:__add__ 和 +,浮点数和整数的不同行为
    当将整数值添加到浮点值时,我意识到如果在浮点上调用该方法可以正常工作,例如:__add__但如果在整数上调用则不行:>>>n=2.0>>>m=1>>>n.__add__(m)3.0起初我认为|||只是对>>>m.__add__(n)NotImplemented和__add__类型的实现方式不同(例如f......
  • c#格式化浮点数double/float保留小数位数方式(转)
    下面的示例显示如何格式化C#中的浮点数。使用静态方法String.Format或实例方法double.ToString和float.ToString。小数点后位数[C#]//justtwodecimalplacesString.Format("{0:0.00}",123.4567);//"123.46"String.Format("{0:0.00}",123.4);......
  • C语言 ——— 浮点数类型 在 内存中 的 存储模式
    浮点数存储规则根据国际标准IEEE754(电气和电子工程协会)规定:任意一个浮点数F的二进制都可以表示成以下形式:科学计数法(-1)^S*M*2^E解析科学计数法: 1.解析:(-1)^S(-1)^S 表示的是浮点数F的符号位当S=0时,原式=(-1)^0= 1,此时的 1就表示浮点数F为......
  • C++关于计算浮点数小数位数时遇到的浮点数精确度问题(以及浮点数强制转换问题)
    起因是当我想要计算浮点数的小数位位数(利用当浮点数num减去其整数位)我的想法是先分离出小数位,然后每次循环给小数位乘上10,直到不存在小数位时,就会满足当num-(int)num==0通过这种方式就可以得到小数位的长度#include<iostream>usingnamespacestd;intmain(){doubl......
  • Linux C进阶 —— 浮点数表示(IEEE标准754)
    1.IEEE标准754  IEEE标准754制订了表示浮点数的标准,解决了浮点数在不同机器上的可移植性。该标准使用      F=(-1)s *M*2E  形式来表示一个实数。  s:表示符号,1为负实数,0为正实数;  M:表示尾数,是一个二进制小数;  E:表示阶码,对......
  • IEEE754浮点数表示形式
    IEEE754浮点数表示形式IEEE754浮点数官方文档:https://ieeexplore.ieee.org/document/8766229浮点数的上述表示形式,既没有规定阶码和尾数的位数,也没有规定阶码和尾数采用的机器码形式(原码、反码、补码和移码)。实际上,直到20世纪80年代初,浮点数表示形式还没有统一标准,不同厂商计......
  • 计算机基础知识之浮点数的表示
    目录定点数表示浮点数表示习题浮点数的规格化例题习题计算机基础知识之原码、补码、反码和移码:https://www.cnblogs.com/kohler21/p/18233912定点数表示定点小数(纯小数)在计算机中的表示形式:注:在计算机中,定点小数主要用于表示浮点数的尾数,并没有高级语言数据类型与之相对应......
  • 计算机组成原理 第六章 计算机的运算方法 Part4 浮点数的四则运算、IEEE754标准与ALU
    1.浮点数介绍基本格式首先需要明确的是浮点数的组成,浮点数由阶码和尾数两部分组成其中阶码又分为阶符和数值部分,阶码J和阶码的位数m共同反应浮点数的表示范围以及小数点的实际位置;尾数由数符和数值部分组成,数符代表浮点数的符号,尾数的数值部分反映浮点数的精度例:阶码E反......
  • 浮点数
    十进制小数与二进制数的转换十进制整数转换为二进制整数十进制整数转换为二进制整数采用"除2取余,逆序排列"法。具体做法是:用2去除十进制整数,可以得到一个商和余数;再用2去除商,又会得到一个商和余数,如此进行,直到商为零时为止,然后把先得到的余数作为二进制数的低位有效位,后得到的......