度量快速开发平台-专业、快速的软件定制快开平台

标题: oracle中number数据类型最简单明了解释 [打印本页]

作者: caixuqad 时间: 2020-3-9 11:43

作者: fteair 时间: 2020-3-9 14:03

caixuqad 发表于 2017-10-9 11:43

作者: caixuqad 时间: 2020-3-10 17:37

作者: fteair 时间: 2020-7-28 14:23

caixuqad 发表于 2017-9-29 18:12

作者: fteair 时间: 2020-7-28 14:24
标题: oracle中number数据类型最简单明了解释

NUMBER （p,s）
p和s范围：
p 1-38
s -84-127

number(p,s),s大于0，表示有效位最大为p，小数位最多为s，小数点右边s位置开始四舍五入，若s>p，小数点右侧至少有s-p个0填充（必须从小数点处开始并连续）。

举例：

number(2,1) 有效位最大为2，小数点后最多保留1位：
存1.115 得1.2
存1.11 的1.1
存1 得1
存0.01 得0
存11.1 得出错有效位为3，大于2
存11 得出错因为11等于11.0 有效位为3，大于2

number(2,4) 有效位最大为2，小数点后最多保留4位：
最大存值：0.0099，至少从小数点处开始并连续填充4-2=2个0，
如存1出错，因为1等于1.0000，有效位为5，大于2

number(p,s),s小于0，表示有效位最大为p+|s|，没有小数位，小数点左边s位置开始四舍五入，小数点左侧s位，每一位均为0。

举例：
number(2,-3) 有效位最大为2+3=5，没有小数位：
存11111 得11000，因为11111等于11111.0，从小数点左侧3位处开始四舍五入。
存11545 得12000
存11545.5 得12000，因为不存小数位，所以舍去小数位
存99999 得出错，因为四舍五入后变为，100000，有效位为6，大于5
存9999 得10000

作者: fteair 时间: 2020-7-28 14:37

caixuqad 发表于 2017-9-28 17:00

作者: caixuqad 时间: 2020-7-28 17:00

作者: caixuqad 时间: 2020-7-28 18:12

欢迎光临度量快速开发平台-专业、快速的软件定制快开平台 (http://bbs.delit.cn/)