首页 > 其他分享 >浮点数计算

浮点数计算

时间:2023-09-14 19:47:03浏览次数:40  
标签:浮点数 System 计算 println 100 0.42 out

浮点数加减乘除的计算是否会是一个准确值呢?

为此,我写了一个源代码来进行测试

public static class Main{
public static void main(String[] args) {
System.out.println("0.51+0.1="+(0.51+0.01));
System.out.println("1.0-0.42="+(1.0-0.42));
System.out.println("4.015*100="+(4.015*100));
System.out.println("123.3/100="+(123.3/100));
}
}最后得到的结果是

0.51+0.1=0.52
1.0-0.42=0.5800000000000001
4.015*100=401.49999999999994
123.3/100=1.2329999999999999

由此我们可以知道,浮点数计算并不是一个准确的值,而是一个近似值,同时我们开始研究浮点数的计算如何才能得到准确的值呢?

经过百度查询发现Java会将浮点数转化为字符串从而来计算,这样会得到一个准确的值。

标签:浮点数,System,计算,println,100,0.42,out
From: https://www.cnblogs.com/Snor9/p/17703274.html

相关文章

  • 智慧园区:AI边缘计算技术与视频监控汇聚平台打造园区解决方案
    一、行业趋势与背景智慧园区是现代城市发展的重要组成部分,通过智能化技术提高园区的运营效率、降低成本、增强环境可持续性等具有重要作用。在智慧园区中,人工智能和视频汇聚技术是重要的前置技术。人工智能技术可以实现对数据的智能化处理和分析,为园区的运营和管理提供智能化的决策......
  • 一个由计算MD5值而引发的Bug
    昨天联调某接口时发现一个的Bug,还好很快找到原因并紧急修复了。某文件A.tar.gz使用apachecommons-compress计算的MD5值:FileReaderfr=newFileReader(tarFile);Stringmd5=DigestUtils.md5Hex(IOUtils.toByteArray(fr));IOUtils.closeQuietly(fr);System.out.println("MD5:"......
  • 计算数组中最大值
    snum="345,231,56,786,1100,356,1200,300,685,111,134,765"functionGetMax(str)num=split(str,",")max=num(0)forii=0toubound(num)ifcint(num(ii))>cint(max)thenmax=num(ii)response.Write"num="&num(ii)&&......
  • 线性方程组计算器
    #include<bits/stdc++.h>usingnamespacestd;intm,n,flag[10],bj[10],judge[10],s,r;longlongmatrix_up[10][10],matrix_dn[10][10];longlongans_up[10],ans_dn[10],up,dn;voidinput(){cout<<"请输入m行n列增广矩阵中的m、n:"<<endl;c......
  • 【小睿的ML之路】Pandas索引与计算
    importpandasfood_info=pandas.read_csv("food_info.csv",encoding="gbk")print(food_info)名称价格(元)糖分(g)重量(kg)含水量(mg)0苹果2002010301香蕉1005030702梨102030......
  • 计算机网络HTTP与TCP常见知识点思维导图
    本篇思维导图主要介绍了HTTP与TCP常见知识点,广度与深度兼具,希望对大家有帮助,需要xmind格式联系我,转发请备注来源,谢谢! ......
  • combineLatest 操作符在 Spartacus Cost Center 计算逻辑中的一个实际应用
    考虑下面这段Angular代码:this.costCenters$=combineLatest([this.userCostCenters$,this.checkoutCostCenterFacade.getCostCenterState().pipe(filter((state)=>!state.loading),map((state)=>state.data),distinctUntilCh......
  • 新学期计算机毕设项目继续接单开工
    新学期计算机毕设项目继续接单开工......
  • 【计算机视觉开发(一)】: yolov5与python环境安装
    前言:最近正在学习计算机视觉开发这块,打算开通一个专栏记录学习总结以及遇到的问题汇总。本篇是这个系列的第一篇,主要是环境安装以及yolov5的介绍。关于计算机视觉:参考:百度百科-关于计算机视觉)计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是是指用摄影机和......
  • 生态保护红线划定与评估中气象因子计算方法 学习记录
    声明本文是学习GB-T42960-2023生态保护红线划定与评估中气象因子计算方法.而整理的学习笔记,分享出来希望更多人受益,如果存在侵权请及时联系我们1范围本文件规定了生态保护红线划定与评估中气象资料选取的要求,描述了气象因子计算的方法。本文件适用于生态功能的调查和生态保护......