• 2024-12-13转载:【AI系统】计算之比特位宽
    在前面的深度学习计算模式里面我们提到了模型的量化操作,通过建立一种有效的数据映射关系,使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将在前面的深度学习计算模式里面我们提到了模型的量化操作,通
  • 2024-12-11转载:【AI系统】计算之比特位宽
    在前面的深度学习计算模式里面我们提到了模型的量化操作,通过建立一种有效的数据映射关系,使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将在前面的深度学习计算模式里面我们提到了模型的量化操作,通
  • 2024-12-11转载:【AI系统】计算之比特位宽
    在前面的深度学习计算模式里面我们提到了模型的量化操作,通过建立一种有效的数据映射关系,使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将在前面的深度学习计算模式里面我们提到了模型的量化操作,通
  • 2024-12-11转载:【AI系统】计算之比特位宽
    在前面的深度学习计算模式里面我们提到了模型的量化操作,通过建立一种有效的数据映射关系,使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将在前面的深度学习计算模式里面我们提到了模型的量化操作,通
  • 2024-11-28考研打卡(29)
    开局(29)开始时间 2024-11-28 14:45:31结束时间 2024-11-28 15:17:32明天是1125今天去学冠领了几份资料数据结构具有5层节点的AVL树至少有_______个节点。(南昌大学2015年)A10B12C15D17B答案设Nh表示深度为h的平衡二叉树中含
  • 2024-09-15【计算机组成原理】浮点数的表示及IEEE 754规格化
  • 2024-08-17浮点数的加减乘除运算细节
    浮点数的加法和减法运算是计算机中最常见也是最复杂的运算之一。由于浮点数的内部表示由符号(Sign)、指数(Exponent)和尾数(Mantissa)三部分组成,浮点数的加减法运算必须处理这些部分之间的复杂关系。以下是浮点数相加或相减的详细运算步骤:1.浮点数表示的回顾符号位(Sign):表示浮点数的
  • 2024-06-23计组--信息编码和数据表示and运算方法运算器(复习专用)
    文章目录前言一、数值的格式二、定点机器数的表示方式1.原码表示法:2.补码表示法:3.反码表示法:4.移码表示法:三、浮点机器数的表示方式(规格化)四、定点数的加减乘除运算五、定点运算器的组成与结构六、浮点运算总结前言学无止境,笔勤不辍。真正开始复习计组,就会发现
  • 2024-06-10计算机基础知识之浮点数的表示
    目录定点数表示浮点数表示习题浮点数的规格化例题习题计算机基础知识之原码、补码、反码和移码:https://www.cnblogs.com/kohler21/p/18233912定点数表示定点小数(纯小数)在计算机中的表示形式:注:在计算机中,定点小数主要用于表示浮点数的尾数,并没有高级语言数据类型与之相对应
  • 2024-06-09计算机组成原理 第六章 计算机的运算方法 Part4 浮点数的四则运算、IEEE754标准与ALU的工作原理
    1.浮点数介绍基本格式首先需要明确的是浮点数的组成,浮点数由阶码和尾数两部分组成其中阶码又分为阶符和数值部分,阶码J和阶码的位数m共同反应浮点数的表示范围以及小数点的实际位置;尾数由数符和数值部分组成,数符代表浮点数的符号,尾数的数值部分反映浮点数的精度例:阶码E反
  • 2024-02-04《程序是怎样跑起来的》第三章
    我是现代信息技术学院的李燕飞,在计算机中小数的存储方式与上一讲述的数据存储方式一样,都是通过位权来实现的,只不过整数部分从个位开始是乘以2的0次方依次往下增;而小数则是乘以2的-1次方依次往下减。而小数之所以会在计算时失误,就是因为有些十进制小数无法用二进制精确的表示出来,
  • 2023-11-07考研_计算机组成原理
    第1章-概论冯·诺依曼提出的新型计算机的五大结构:运算器,控制器,存储器,输入设备和输出设备计算机主要性能指标基本字长:处理器中参加一次定点运算的操作位的位数(计算机中的算术运算分为定点运算和浮点运算)外频:主板上的振荡器输出的时钟频率,也是计算机一切硬件部件工
  • 2023-09-06CSAPP-Data Lab
    gcc-O1-Wall-m32-lm-obtestbits.cbtest.cdecl.ctests.cInfileincludedfrombtest.c:16:0:/usr/include/stdio.h:27:10:fatalerror:bits/libc-header-start.h:Nosuchfileordirectory#include<bits/libc-header-start.h>^~~~~~~~~~~~~~~~~~~~~~
  • 2023-07-1302-信息的表示和处理
    二进制&十进制&十六进制二进制转十六进制(分组转换)四位二进制可表示一位十六进制,那么对于一个00001011,转换后的结果为0x0B,只需要记住关键的十六进制和二进制对应关系即可,关系表如下:对某个二进制如001000000000,可将其拆分为:\(2^n\)中\(n=i+4j\),即\(2^9\)进行上述拆分结
  • 2023-07-08CSAPP-Data Lab 思路记录
    >gcc-O1-Wall-m32-lm-obtestbits.cbtest.cdecl.ctests.c>Infileincludedfrombtest.c:16:0:>/usr/include/stdio.h:27:10:fatalerror:bits/libc-header-start.h:Nosuchfileordirectory>#include<bits/libc-header-start.h>>
  • 2023-05-31数的表示
    3.1数的定点表示定点小数的表示范围: 原码:1.1111111=-(1-2^(-7))至1-2^(-7) 补码:-1至1-2^(-7)定点整数的表示范围: 原码:11111111=-127,01111111=127 补码:10000000=-128,01111111=1273.2数的浮点表示法表示格式:阶码和尾数D*R^E第一种浮点格式:阶符,阶码值(补码),数符,尾数值
  • 2023-05-07第2章-数据的表示和运算
    2.3浮点数的表示和运算1.浮点数尾数的表示1.阶码(E):反映数值大小;反映浮点数的表示范围及小数点的实际位置;常用补码或移码表示的定点整数;2.尾数(M):反映精度;常用原码或补码表示的定点小数浮点数的真值:N=R^E×M,阶码的底(称为基数)R通常为2例:若阶码和尾数均用补码表示,求a,b的真
  • 2023-04-24浮点数规格化的目的,方式,和形式
        
  • 2023-03-11机器学习日志 踩坑总结
    陆续更新中.飞桨AIStudio平台挺好的,要注意的是这个是linux系统,并且不知道为啥这里面的读入test文件是随机的?写了shuffle=False也没用。。。.很难注意的一个点,网络要注
  • 2023-02-24NEMU PA 1 实验报告
    课程地址:PA1-1https://www.bilibili.com/video/BV1JE411J7AKPA1-2https://www.bilibili.com/video/BV1EE411J7Y6PA1-3https://www.bilibili.com/video/BV1fE411H7nS
  • 2023-02-03IEEE 754浮点数表示法
    浮点数的二进制表示在理解二进制浮点数的表示之前,首先先从十进制的浮点数表示开始,十进制的浮点数表示如下\[d_{m}d_{m-1}...d_{1}d_{0}.d_{-1}.d_{-2}...d_{-n}\]每一个