• 2025-01-18模型量化
    模型量化实在是太常见了,但是我完全不知道quantization是什么东西,不好!float在计算机中,float是一种用于表示单精度浮点数的标准数据类型。浮点数的存储遵循IEEE754标准,具体来说,32位浮点数由三部分组成:符号位(Signbit):占1位0表示正数1表示负数指数部分(
  • 2024-12-31Rust f64详解
    一、Rust中的f64类型与IEEE754双精度浮点数Rust中的f64类型是一个双精度浮点数类型,它严格遵循IEEE754双精度标准。这意味着f64类型在Rust中的存储和表示方式与IEEE754双精度浮点数完全一致。二、存储格式f64类型由64位二进制数表示,分为以下三部分:1.符号位(1位):位置:第
  • 2024-12-19数量
    技巧比例型出现一个比例,存在四种倍数关系倍数你们有啥公因子,我也必须有尾数出现乘法,分析个位,考虑尾数。乘法中出现5和10尾数就确认了奇偶与偶数相乘一定是偶数,与奇数相乘可能为偶数也可能为奇数拓展猜题当A=B*C,求A,考虑A的倍数工程问题利润问题求最大
  • 2024-12-17请说说IEEE 754规定了哪些标准?
    IEEE754标准是由国际电气和电子工程师协会(IEEE)制定的浮点数运算标准。它规定了浮点数的表示方法、运算规则以及特殊值的处理方式,为计算机系统中的浮点数运算提供了统一的规范。以下是IEEE754标准规定的主要内容:一、浮点数的表示方法符号位:用于表示浮点数的正负,0表示正数,1表
  • 2024-11-29考研打卡(30)
    开局(30)开始时间 2024-11-29 08:23:23结束时间 2024-11-29 09:21:22今早醒来,打了十几个喷嚏,蹲了一分钟才发现是女厕所(还好没人)数据结构 有一个有序表R[1...13]={1,3,9,12,32,41,45,62,75,77,82,95,100},当用二分查找法查找值为82的节点时,经过______次比较后查找成功。(上海大学2
  • 2024-11-23【24亚太赛】2024年亚太杯A题、B题和C题思路、代码、论文持续更新
  • 2024-09-15【计算机组成原理】浮点数的表示及IEEE 754规格化
  • 2024-08-25计算机组成原理-数据的表示与运算
    进位计数制进制分类二进制(前缀为0b)八进制(前缀为0)十进制十六进制(前缀为0x)进制转换二进制,八进制,十六进制向十进制转换二进制》》十进制每一位的二进制数_该位数字的位权,例如:10101=1*_24+0*_23+1*_22+0*_21+1*_20=21-八进制》》
  • 2024-08-25计算机组成原理【3】:数据的表示和运算-下
    概述浮点数的表示和运算浮点数的表示;IEEE754标准;浮点数的加/减运算浮点数的表示与运算浮点数的表示浮点数表示法是指以适当的形式将比例因子表示在数据中,让小数点的位置根据需要而浮动。这样在位数有限的情况下,既扩大了数的表示范围,又保持数的有效精度。浮点数的表示格
  • 2024-08-17浮点数的加减乘除运算细节
    浮点数的加法和减法运算是计算机中最常见也是最复杂的运算之一。由于浮点数的内部表示由符号(Sign)、指数(Exponent)和尾数(Mantissa)三部分组成,浮点数的加减法运算必须处理这些部分之间的复杂关系。以下是浮点数相加或相减的详细运算步骤:1.浮点数表示的回顾符号位(Sign):表示浮点数的
  • 2024-08-03LLM场景下常用浮点数介绍
    在计算机中,浮点数的表示基于IEEE754标准,这是最广泛使用的浮点数表示标准。对于一个具体的数值,如10.2345434,它会被分解为符号位、指数位和尾数位。这里以最常见的float32(单精度浮点数)为例来解释这个过程:符号位如果数值是正的,符号位为0;如果数值是负的,符号位为1。对于10.23454
  • 2024-08-03LLM场景下常用浮点数介绍
    在计算机中,浮点数的表示基于IEEE754标准,这是最广泛使用的浮点数表示标准。对于一个具体的数值,如10.2345434,它会被分解为符号位、指数位和尾数位。这里以最常见的float32(单精度浮点数)为例来解释这个过程:符号位如果数值是正的,符号位为0;如果数值是负的,符号位为1。对于10.23454
  • 2024-08-03LLM场景下常用浮点数介绍
    在计算机中,浮点数的表示基于IEEE754标准,这是最广泛使用的浮点数表示标准。对于一个具体的数值,如10.2345434,它会被分解为符号位、指数位和尾数位。这里以最常见的float32(单精度浮点数)为例来解释这个过程:符号位如果数值是正的,符号位为0;如果数值是负的,符号位为1。对于10.23454
  • 2024-08-03LLM场景下常用浮点数介绍
    在计算机中,浮点数的表示基于IEEE754标准,这是最广泛使用的浮点数表示标准。对于一个具体的数值,如10.2345434,它会被分解为符号位、指数位和尾数位。这里以最常见的float32(单精度浮点数)为例来解释这个过程:符号位如果数值是正的,符号位为0;如果数值是负的,符号位为1。对于10.23454
  • 2024-08-03LLM场景下常用浮点数介绍
    在计算机中,浮点数的表示基于IEEE754标准,这是最广泛使用的浮点数表示标准。对于一个具体的数值,如10.2345434,它会被分解为符号位、指数位和尾数位。这里以最常见的float32(单精度浮点数)为例来解释这个过程:符号位如果数值是正的,符号位为0;如果数值是负的,符号位为1。对于10.23454
  • 2024-07-27计算机组成与体系结构-浮点数表示
    定点数:是一种在计算机中表示和处理实数的方法,其中,小数点的位置是固定的,不会随着数值的大小而变化。浮点数:是计算机中用于表示实数的一种数据类型。小数点位置浮动浮点数表示阶码(指数部分):决定了浮点数可以表示的范围。阶码越长,可以表示的指数范围就越大尾数(有效数
  • 2024-07-24fp32的表示精度范围计算
    是的,在IEEE754标准中,浮点数表示的指数的底(基数)是2。这意味着浮点数表示遵循二进制科学记数法,即数值表示为尾数(Significand或Mantissa)乘以2的指数次方。浮点数表示浮点数的表示形式通常为: 其中:sign:符号位,0表示正数,1表示负数。fraction:尾数位,也称为小数部分,表示
  • 2024-07-16计组笔记第二章——数据的表示和运算
    本章问题:数据如何在计算机中表示?运算器如何实现数据的算术、逻辑运算?2.1.1进位计数制十进制计数法古印度人发明阿拉伯数字。基于乘法思想。十进制表示方式:整数情况下:\[K_nK_{n-1}...K_2K_1K_0=K_n\times10^n+K_{n-1}\times10^{n-1}+...+K_2\times10^2
  • 2024-06-10计算机基础知识之浮点数的表示
    目录定点数表示浮点数表示习题浮点数的规格化例题习题计算机基础知识之原码、补码、反码和移码:https://www.cnblogs.com/kohler21/p/18233912定点数表示定点小数(纯小数)在计算机中的表示形式:注:在计算机中,定点小数主要用于表示浮点数的尾数,并没有高级语言数据类型与之相对应
  • 2024-06-09计算机组成原理 第六章 计算机的运算方法 Part4 浮点数的四则运算、IEEE754标准与ALU的工作原理
    1.浮点数介绍基本格式首先需要明确的是浮点数的组成,浮点数由阶码和尾数两部分组成其中阶码又分为阶符和数值部分,阶码J和阶码的位数m共同反应浮点数的表示范围以及小数点的实际位置;尾数由数符和数值部分组成,数符代表浮点数的符号,尾数的数值部分反映浮点数的精度例:阶码E反