`

oracle中数字的精度问题

阅读更多
在现有一个系统遇到百分比数值不对的bug
经测试发现时精度问题引起的
随测试数据如下:
create table test_report_table (amount number(5,2),age number(5));
insert into test_report_table values(5.333,5.333);
insert into test_report_table values(2/3,2/3);
select * from test_report_table;

AMOUNT AGE
5.33 5
0.67 1

说明数值类型在oracle中的影响
分享到:
评论

相关推荐

    Oracle中trunc()函数用法处理日期、数字类型数据

    Oracle 中的 TRUNC 函数用法处理日期、数字类型数据 TRUNC 函数是 Oracle 中的一个重要函数,它可以用来截断日期和数字类型的数据。下面我们将详细介绍 TRUNC 函数的用法和特点。 一、日期 TRUNC 函数 TRUNC 函数...

    Oracle 数据类型

    4、NUMBER表示数值数据类型,NUMBER(P,S),P为精度,表示数据的总位数,S为范围,表示小数点右边数字的位数 5、DATE数据类型,使用7个字节固定长度,每个字节分别存储世纪,年,月,日 ,时,分,秒,ORACLE中...

    ORACLE9i_优化设计与系统调整

    §10.3.2 相互产生运算的数字型字段长度和精度要一致 114 §10.3.2 不要为了节省空间而将字段的长度缩小或拆开 115 §10.4 将LOB类型的字段与其它的类型分开 115 §10.5 采用具有编码的设计方法 115 §10.6 建立公共...

    oracle支持的数据类型

    DATE 日期(日-月-年) DD-MM-YY(HH-MI-SS) 经过严格测试,无千虫问题 LONG 超长字符串 最大长度2G(231-1) 足够存储大部头著作 RAW 固定长度的二进制数据 最大长度2000 bytes 可存放多媒体图象声音等 LONG RAW ...

    oracle学习文档 笔记 全面 深刻 详细 通俗易懂 doc word格式 清晰 连接字符串

    n(-84~127) 可以存储正数、负数、零、定点数和精度为38位的浮点数,其中,M表示精度,代表数字的总位数;N表示小数点右边数字的位数 日期类型 date 7字节 用于存储表中的日期和时间数据,取值范围是公元前4712年1月...

    oracle函数大全.doc

    ORACLE函数大全 ________________________________________ 作者:[本站编辑] 来源:[CSDN] 浏览:[ ] SQL中的单记录函数 1.ASCII 返回与指定的字符对应的十进制数; SQL> select ascii('A') A,ascii('a') a,...

    Oracle数据库常用数据类型.doc

    Oracle 数据库中有多种数据类型,每种数据类型都有其特点和应用场景。以下是 Oracle 数据库常用数据类型的详细介绍: 1. 字符串类型 * CHAR:固定长度字符串,最大长度 2000 bytes。CHAR 类型适合存储固定长度的...

    ORACLE数据库简介.ppt

    域完整性是关系中的属性取值的正确性限制,包括数据类型、精度、取值范围、是否允许空值等。参照完整性是指实体之间存在的某种约束条件。业务规则是指组织的其他需求,以便保证业务的正确运行。 五、数据库对象 ...

    MYSQL,SQLSERVER,ORACLE常用的函数

    SQL> select instr('oracle traning','ra',1,2) instring from dual; INSTRING --------- 9 6.LENGTH 返回字符串的长度; SQL> select name,length(name),addr,length(addr),sal,length(to_char(sal)) from ....

    oracle知识简介

    可以帮你对oracle整体知识的掌握 基本数据类型: CHAR(n) 定长字符串 最大长度为2000 VARCHAR2(n) 变长字符串 最大长度为4000字节 没有默认长度必须指定 NCHAR(n) 用于存储定长为n的Unicode字符最大长度为2000字节 ...

    pls_interger 和binary_integer的区别与多种数据类型说明

    Oracle 中的数据类型详解 Oracle 中的数据类型可以分为四种:标量(SCALAR)、复合(COMPOSITE)、引用(REFERENCE)和 LOB。下面将详细介绍标量类型的特性。 数字类型 数字类型可以分为三种基本类型:NUMBER、...

    Oracle Number型的深入理解

    NUMBER数据类型NUMBER ( precision, scale)a) precision表示数字中的有效位;如果没有指定precision的话,Oracle将使用38作为精度。b) 如果scale大于零,表示数字精确到小数点右边的位数;scale默认设置为0;...

    MYSQL_MSS_ORACLE函数使用

    MYSQL_MSS_ORACLE函数使如果结果的长度大于服务器参数max_allowed_packet,字符串值函数返回NULL. 对于针对字符串位置的操作,第一个位置被标记为1. 1、ASCII(str) 返回字符串str的最左面字符的ASCII代码值.如果...

    Oracle round()函数与trunc()函数区别介绍

    round(x[,y]) 【功能】返回四舍五入后的值 ... 返回: 5555.67 , 5600 , 5556 【相近】trunc(x[,y]) 返回截取后的值,用法同round(x[,y]),只是不四舍五入 trunc(x[,y]) 【功能】返回x按精度y截取后的值 【参数】x,y,数

    oracle 函数大全.txt

    5.INSTR(C1,C2,I,J) 在一个字符串中搜索指定的字符,返回发现指定的字符的位置; 6.LENGTH 返回字符串的长度; 7.LOWER 返回字符串,并将所有的字符小写 ;8.UPPER 返回字符串,并将所有的字符大写 ;9.RPAD和LPAD(粘贴...

    MYSQL_MSS_ORACLE函数

    CONV以64位点精度工作. 3、CONV mysql> select CONV("a",16,2); -> '1010' mysql> select CONV("6E",18,8); -> '172' mysql> select CONV(-17,10,-18); -> '-H' mysql> select CONV(10+"10"+'10'+0xa,10,...

    2009.6.19—30举办3S研讨会暨Google Earth与Google Map等仿真建模与共享及ARCGIS与遥感高级程序员培训班

    关于举办2009’CHINA3S’3S技术一体化应用研讨会暨遥感与GIS制图、Google Earth与Google Map等虚拟三维仿真建模与共享软件应用开发及ARCGIS与遥感分析操作应用...*第七单元:数字流域、数字水利与数字航道 1、WebGIS和...

    PL/SQL number型数据

    PL/SQL Number型数据是 Oracle 中一种常用的数据类型,它可以存储带有小数点的数字。 Number型数据的定义形式为 `NUMBER(p,s)`,其中 `p` 表示精度,即总共可以存储的数字位数,`s` 表示缩放,即小数点后的位数。 在...

    PL/SQL 基础.doc

    NUMBER(P,S) P:精度:整个的有效数位(从左边开始第一个不为0的数字起) S:刻度,可选(小数点后面的保留位数) BINARY_INTEGER:保存整数. 和NUMBER的底层的保存方式不同, BINARY_INTEGER为2进制保存,NUMBER 需要...

    java面试800题

    外键是从某个表的一个字段指向另外一个表的主健字段,两个字段的类型和精度应该一致,外键的值必须在主键中存在 Q0030 在数据库中什么代表一条记录? 主健 Q0031 如何编写效率高的SQL语句? "1.根据查询条件建立...

Global site tag (gtag.js) - Google Analytics