• 2024-10-132024-2025-1 20241421 《计算机基础与程序设计》第三周学习总结
    这个作业属于哪个课程2024-2025-1-计算机基础与程序设计)这个作业要求在哪里https://www.cnblogs.com/rocedu/p/9577842.html#WEEK03(https://edu.cnblogs.com/campus/besti/2024-2025-1-CFAP/homework/13276))这个作业的目标1、数字分类与计数法位置计数法,2、进制转
  • 2024-09-18C++浮点数半精度与单精度的相互转换
    代码//单精度转半精度unsignedshortcpu_float2half(floatf){unsignedshortret;unsignedx=*((int*)(void*)(&f));unsignedu=(x&0x7fffffff),remainder,shift,lsb,lsb_s1,lsb_m1;unsignedsign,exponent,mantissa;//Getrid
  • 2024-09-03单精度浮点算力
    单精度浮点算力通常用每秒浮点运算次数(FLOPS,FloatingPointOperationsPerSecond)来衡量。比如:GFLOPS:每秒十亿次浮点运算(GigaFLOPS)。TFLOPS:每秒万亿次浮点运算(TeraFLOPS)。单精度浮点算力的用途单精度浮点数在很多计算任务中有广泛应用,包括:深度学习:训练和推理过程中,很
  • 2024-08-18半精度、单精度和双精度浮点数的表示
    浮点数表示概述浮点数有三种精度,不同的精度的存储位数,数值范围,精度,内存消耗和性能上有所不同精度越大精度越小存储位数↑↓数值范围↑↓精度↑↓内存消耗↑↓性能↓↑半精度浮点数一个双精度浮点数占2个字节(16位)位域位数符号1
  • 2024-07-12学习C语言第一天
    今天看了B站上的几节课,总结了以下几个要点:1.githud,码云两个网站实现代码托管,坚持上传代码。2.CSDN坚持写博客,善于总结包括xmind。3.不做伸手党,要学会自己解决问题。4.操作系统,计算机网络+网络编程,比较难,上课要认真,还需要看书补偿。5.数据结构要听懂。6.介绍了课程安排。7.了解
  • 2024-06-10IEEE754浮点数表示形式
    IEEE754浮点数表示形式IEEE754浮点数官方文档:https://ieeexplore.ieee.org/document/8766229浮点数的上述表示形式,既没有规定阶码和尾数的位数,也没有规定阶码和尾数采用的机器码形式(原码、反码、补码和移码)。实际上,直到20世纪80年代初,浮点数表示形式还没有统一标准,不同厂商计
  • 2024-06-06C++基础编程100题-004 OpenJudge-1.1-06 空格分隔输出
    更多资源请关注纽扣编程微信公众号http://noi.openjudge.cn/ch0101/06/描述读入一个字符,一个整数,一个单精度浮点数,一个双精度浮点数,然后按顺序输出它们,并且要求在他们之间用一个空格分隔。输出浮点数时保留6位小数。输入共有四行:第一行是一个字符;第二行是一个整数;
  • 2024-05-13win32下汇编代码结构学习
    通常win32下三种不同的调用模式,不同版本的编译器,对汇编出来的代码都会代理一些差别。__cdecl是默认的方式,采用外平栈。__stdcall,采用内平栈。__fastcall,因为采用2个寄存器传参,所以多于2个参数后也会用外平栈的方式。传入的第一个参数位置在ebp+8,后面依次加4个字节,即第n个参数的
  • 2024-04-10单精度浮点数误差与消除方法
    技术背景一个比较容易理解的概念,我们在做计算的过程中,很多时候都要做截断。不同精度的混合计算之间也会有截断,就比如一个float32单精度浮点数,符号占1位,指数占8位,尾数占23位。而一个float64双精度浮点数,符号占1位,指数占11位,尾数占52位。通常情况下,float32的有效数字约7位(按照\(2^{
  • 2024-02-29第三章
    一.计算机进行小数运算时出错的原因1.用二进制数表示小数二进制数小数点前面部分的位权,第1位是2的0次幂、第2位是2的1次幂····以此类推。小数点后面部分的位权,第1位是2的-1次幂、第2位是2的-2次幂,以此类推。0次幂前面的位的位权按照1次幂、2次幂··的方式递增,0次幂以后
  • 2024-02-24计算机进行小数运算时出错的原因
    通过此章的学习我了解的计算机出错的几个重大原因,以及什么是浮点数,让我对计算机有了更加深刻的认知和理解,我也了解到如何在实际程序中确认和如何避免计算机出错计算机运算出错的原因计算机之所以会出现运算错误,是因为“有一些十进制数的小数无法转换成二进制数”。代码清单3-1
  • 2024-02-23《程序是怎么跑起来的》第3章读书笔记
    经过前两章对计算机内容最基本的理解之后,就迎来了对计算机的计算,而计算机也不是万能的,它也会出现错误,那么就涉及到计算机在计算小数时会出现错误的原因,首先课题通过一个问题将0.1累加100次的结果不是10这一话题成功将读者引入进去。然后告诉了我们为什么在计算机中会这样子出错的
  • 2024-02-22《程序是怎样跑起来的》第三章读书笔记
    计算机出现运算出错是因为有一些十进制的小数无法转化成二进制数。计算机因为无法正确的表示数值,最后都变成了近似值,计算机这个功能有限的机器设备,是无法处理无限循环的小数的,因此,遇到循环小数时,计算机就会根据变量数据类型所对应的长度将数值从中间截断或者四舍五入。双精度浮点
  • 2024-02-1915张图带你深入理解浮点数
    本着「要学习就系统透彻的学」这个原则,本文通过图的方式尽可能详细的讲解浮点数,让大家能够对浮点数有一个更深层次的认识。本文目录: 0、几个问题开始之前请思考如下问题:二进制0.1,用十进制表示的话是多少?十进制的0.1,用二进制表示又是多少?为什么0.1+0.2=0.300000000
  • 2024-02-18《程序是怎样跑起来的》——第3章 计算机进行小数运算时出错的原因
    一、计算机进行小数运算时也会出错1、计算机不是万能的:计算机在运行的时候绝大多数的时候能得到正确的数值,但依然存在程序运行后无发得到正确数值的情况。小数运算就是这样。2、示例:将0.1累加100次也得不到10但与之相反的是,0.1累加00此后的结果是10。正是这样计算机在运行小
  • 2024-02-18《程序是怎样跑起来的》第三章的读后感
    又到了每周的读书分享,本篇分享《程序是怎样跑起来的》第三章的读后感。大家可能会认为“万能的计算机是不会出现计算错误的”。但实际上,依然存在程序运行后无法得到正确数值的情况。其中,小数运算就是一个典型的例子。第三章就给我们解释了计算机进行小数运算时出错的原因,在本章中
  • 2024-02-03《程序是怎样跑起来的》第3章
    3.1节列举了一个计算机计算错误的例子:将0.1累加100次的结果不是103.2节讲述了二进制小数转换为十进制的方法3.3节解释3.1节计算机计算出错的原因3.4节两种能表示小数的数据类型:双精度浮点型和单精度浮点型双精度浮点型的长度为64位单精度浮点型的长度为32位浮点数将小数分
  • 2024-01-29整理思路
    题目描述将一个float类型的数,保留3位小数输出。前置芝士知识如何保留3位小数需要保留几位小数,就将precision(n)的括号里n换成几上面的语句写一次就够了,对之后的数字都有效函数precision()控制输出流的输出精度(精度控制采用四舍五入)注意:precision单独使用是控制有效
  • 2023-11-122.3 CE修改器:浮点数扫描
    本关需要使用CheatEngine工具对浮点数进行扫描,完成修改任务。浮点数是一种带有小数点的数值,通过“浮点数”扫描方式进行修改。本关中,健康值为单精度浮点数,弹药值为双精度浮点数,需要将这两项数值都修改为5000或更高。提示建议禁用“快速扫描”功能,以获取更准确的扫描结果。这
  • 2023-11-122.3 CE修改器:浮点数扫描
    本关需要使用CheatEngine工具对浮点数进行扫描,完成修改任务。浮点数是一种带有小数点的数值,通过“浮点数”扫描方式进行修改。本关中,健康值为单精度浮点数,弹药值为双精度浮点数,需要将这两项数值都修改为5000或更高。提示建议禁用“快速扫描”功能,以获取更准确的扫描结果。这
  • 2023-11-01软件模拟实现IEEE-754单精度浮点数运算
    软件模拟实现IEEE-754单精度浮点数运算本文首发于吾爱破解论坛https://www.52pojie.cn/thread-1830228-1-1.html大多数CPU都有硬件的浮点单元(FPU),但是有一些MCU使用的内核(比如Cortex-M3)没有FPU,或者一些内核只支持单精度,同时大部分CPU都不支持高精度128位的浮点数,如果需要使用这
  • 2023-10-15IEEE754 浮点数
    十进制数5.75161.875-0.02343755.75转单精度浮点数整数部分5/2=2...12/2=1...01/2=0...1小数部分0.752=1.50...10.502=1.00...1101.1100000000=1.011100000000*2^2S=0E=2M=011100000000故其单精度浮点数为:010000001011100000000161.875转单精度浮点数
  • 2023-09-25Python IEEE754 单精度浮点数二进制十六进制转换
    在学计组的知识,单精度浮点数与二进制十六进制的转换过程,写了几个函数,方便自己检验1hdict={2'0':'0000',3'1':'0001',4'2':'0010',5'3':'0011',6'4':'0100&
  • 2023-09-16C
    1.初始c语言chara="a";printf("%c\n",a);//打印字符形式intb=20;printf("%d\n",b);//打印整型十进制数据//字符串chars[]="tobclain";printf("stringis%s\n",s);//打印字符串//浮点型floatf
  • 2023-06-19Java学习_关于变量
    关于变量的使用主要分为三步骤:1.变量的声明:这一部分包括变量类型+变量名称2.变量的赋值:变量名称=数据3.变量的使用:直接引用名称即可。 这里要注意一点,如果你想要使用变量,就必须要进行这三步,尽管有时候你不知道变量要赋一个什么值,那也得赋值,你可以随便给个0或者其他的值,赋值