首页 > 数据库 >ShenTong Double/Float 类型与Oracle 的差异

ShenTong Double/Float 类型与Oracle 的差异

时间:2022-12-26 10:55:15浏览次数:42  
标签:float 二进制 Double Float 类型 oracle Oracle 十进制 小数

在计算机中十进制小数转化为二进制数算法是乘以2直到没有了小数为止,所以有些小数不能准确表示类似十进制中无法用小数准确表示1/3.

计算机是通过二进制进行运算的,首先需要把double类型的小数转化为二进制然后再加起来.

0.05 、0.15、 0.1等转为二进制时都出现了无限循环,就好像十进制中无法精确表示1/3一样,出现了精度的损失.

神通的浮点数 float 用的就是硬件计算方式,那么小数点最后几位必然是不精准的,所以计算结果是一个0的近似值

oracle 没有float类型,所谓的 float 类型是映射到 number ,number 类型存储以及计算方式是oracle自己做的,用的并不是计算机硬件。
oracle 存在 BINARY_FLOAT和BINARY_DOUBLE 类型,这两个类型是根据IEEE754实现单精度和双精度浮点型,同样的bug数据,oracle输出结果与神通一致。

标签:float,二进制,Double,Float,类型,oracle,Oracle,十进制,小数
From: https://www.cnblogs.com/swd1023/p/17005224.html

相关文章

  • Oracle使用闪回恢复表数据
    1、先去回收站看看相关数据的信息select*fromuser_recyclebin2、确认后使用闪回来恢复表数据flashbacktable要恢复的表名tobeforedrop;如果在删除表数据后,有......
  • 确认oracle中表被truncate的具体时间
    文档课题:确认oracle中表被truncate的具体时间.数据库:oracle11.2.0.41、场景准备SYS@orcl>createtableleo.tspitr_emptablespaceleo_tsasselect*fromscott.emp;Ta......
  • c语言中float类型的存储及IEEE规范
    float是​​浮点型​​数据类型。也是​​postgresql​​/​​sqlserver​​中float/float4都指的是单精度(real在pg中就是单精度,保证6位而非7位精度,范围从1E-37~1E+37......
  • lightdb extra_float_digits--控制浮点数精度
    建一张表,两个字段类型分别是float和numeric,然后插入数据,如下:zjh@postgres=>createtablet1(c1float,c2numeric);CREATETABLEzjh@postgres=>insertintot1values(0.555......
  • Oracle RAC -- VMware server 2.0 创建共享磁盘
    C:\ProgramFiles(x86)\VMware\VMwareServer> vmware-vdiskmanager.exe-c-s2Gb-alsilogic-t2G:\VirtualMachines\disks\OCR_VOTE.vmdkC:\ProgramFiles(x86)\VMw......
  • Oracle函数汇总
      SQL函数日期函数:可以进行算术运算 SYSDATE返回系统日期selectsysdatefromdual;ADD_MONTHS(<d>,<i>)返回日期d加上i个月后的新日期(i正可负)。......
  • oracle根据某个值搜索所有的表及列名
    1、创建createorreplaceprocedureA_YANDANCHANis--名称A_YANDANCHAN可以改掉v_sqlVARCHAR2(4000);v_tb_columnVARCHAR2(4000);v_cntNUMBER(18,0);......
  • oracle常用命令
    1#登录2su-oracle3sqlplus"/assysdba"4#查询数据库版本5SQL>select*fromv$version;6#查询当前数据库进程的连接数7SQL>selectcount(*)fro......
  • Oracle 19c RAC 自动应用RU补丁简明版
    环境:OracleRAC(GI19.3+DB19.3)本文应用补丁信息,19.16RU:p34130714_190000_Linux-x86-64.zip本文主要演示使用opatchauto自动应用补丁的过程。1.更新OPatch......
  • Oracle19C windows安装部署
    1、解压安装包WINDOWS.X64_193000_db_home.zip2、双机setup.exe文件。服务器先决条件检查点击关闭。数据库监听配置数据库初始化设置......