首页 > 编程语言 >python的decimal默认精度为28

python的decimal默认精度为28

时间:2024-11-15 14:34:51浏览次数:1  
标签:python decimal 28 52 有效数字 pi 精度

python的decimal的精度可以修改的

计算pi

使用莱布尼茨级数计算圆周率

from decimal import Decimal, getcontext

# 设置全局精度为 100 位
getcontext().prec = 100

# 使用莱布尼茨级数计算圆周率
pi = Decimal(0)
for k in range(1000000):
    pi += (Decimal(-1) ** k) / (2 * k + 1)

pi *= 4
print(pi)  # 输出: 3.1415926535897932384626433832795028841971693993751058209749445923078164062862089986280348253421170679


在 Python 中,float 类型使用 IEEE 754 标准来表示浮点数.
64位, 8个字节
双精度浮点数的特点
符号位:1 位(表示正负)
指数位:11 位(表示指数)
尾数位:52 位(表示有效数字)
所有能存15-17位有效数字,
正常一位10进制数用4个位表示, 但4个位没用全, 所以不用能用52/4=13, 而应该使用52位, 能表示的最大值为2^52-1=4503599627370495, 这个数字是个16位, 但精度损失问题, 有时少一位, 有时多一位, 就变成15-17位有效数字了

标签:python,decimal,28,52,有效数字,pi,精度
From: https://www.cnblogs.com/barrysgy/p/18547912

相关文章

  • 国标GB28181-2016平台LiteGBS国标GB28181软件如何查看海康硬盘录像机NVR4.0lite的ip通
    随着视频技术的不断进步,视频监控、直播、执法记录仪等多种视频资源的应用场景愈发广泛且多样化。LiteGBS国标GB28181软件不仅在数量上快速增长,更在质量、格式及编码标准等方面展现出极高的多样性。因此,为了实现对这些资源的有效整合和统一管理输出,信息化项目中对于视频综合接入能......
  • 国标GB28181软件LiteGBS国标GB28181公网直播流媒体服务与视频监控直播的解决方案
    LiteGBS国标GB28181-2022平台具有诸多显著特点。它全力支持设备以GB28181协议接入,这意味着能够广泛接纳符合该协议标准的各类设备,为用户提供了丰富的设备选择空间。接入设备后,LiteGBS可对视频进行高效地解码、处理和分发等服务,确保视频信号的稳定传输和高质量呈现。在现代视频监......
  • 国标GB28181设备管理软件LiteGBS国标GB28181视频平台海康NVR怎么跨网段添加摄像机
    LiteGBS国标GB28181系统是一个基于国标GB28181协议的视频云服务平台,它支持多路设备同时接入,并能对多平台、多终端分发出RTSP、RTMP、FLV、HLS、WebRTC等格式的视频流。1、问题场景公司临时增加了2个摄像机,和录像机在同一个局域网,但是不在同一网段,中间有经过一个路由器,有什么方......
  • Python异常处理
    六、异常处理基本语法try:#尝试运行的代码块result=10/0exceptZeroDivisionErrorase:#捕获ZeroDivisionError异常print("不能除以零!",e)exceptTypeErrorase:print("类型错误!",e)exceptExceptionase:#这里可以捕获所有的......
  • python实现的扫雷游戏的AI解法(启发式算法)
    相关:python编写的扫雷游戏如何使用计算机程序求解扫雷游戏本文中实现的《扫雷》游戏的AI解法的项目地址:https://openi.pcl.ac.cn/devilmaycry812839668/AI_mine_game该项目的解法效果:之前介绍了网上的一些解决《扫雷》游戏的一些解法,包括DQN和启发式等AI算法,看着这......
  • python调用百度通用翻译API
    文章目录1.简介2.使用步骤3.api调用实现4.编码实现1.简介前段时间在做视频语音识别生成多语种字幕时,使用了百度翻译通用翻译api进行翻译。百度翻译平台经过个人认证之后,每月有200万字符的免费翻译额度。还是比较舒服的。百度翻译开放平台是百度翻译面向广大......
  • 国标GB28181-2016平台LiteGBS国标GB28181视频平台球机安装好后发现云台不受控制的解决
    随着视频技术的不断进步,视频监控、直播、执法记录仪等多种视频资源的应用场景愈发广泛且多样化。LiteGBS国标GB28181视频平台不仅在数量上快速增长,更在质量、格式及编码标准等方面展现出极高的多样性。因此,为了实现对这些资源的有效整合和统一管理输出,信息化项目中对于视频综合接......
  • Code128编码规则及示例
    编码格式​空白区域起始字符数据区域校验码结束字符空白区域所有字符条纹图像都是以黑色开始,白色结束,只有结束字符例外起始字符由于128码有三个字符集。所以有三个起始字符。 字符集包含字符值bsStartA全部大写字母和标点符号和特殊符号{2,1,1......
  • Python类
    五、类5.1定义类使用class关键字定义一个类,类名通常采用首字母大写的驼峰命名法classPerson:pass5.2构造函数基本语法classPerson:def__init__(self,name,age):#定义构造函数self.name=name#初始化name属性s......
  • 国标GB28181软件LiteGBS国标GB28181-2022平台夜晚IPC灯光导致不能切换黑白模式且图像
    LiteGBS国标GB28181网页直播平台具有诸多显著特点。首先,它全力支持设备以GB28181协议接入,这意味着能够广泛接纳符合该协议标准的各类设备,为用户提供了丰富的设备选择空间。接入设备后,LiteGBS可对视频进行高效的解码、处理和分发等服务,确保视频信号的稳定传输和高质量呈现。在兼......