了解房产的精确度和规模

时间:2012-06-13 22:56:48

标签: coldfusion coldfusion-9

property name="poiLat" length="60" ormtype="big_decimal" persistent=true precision="16" scale="14" default="0" hint="";

我不正确地理解精确度或比例。使用上面的属性为什么'1'会出错并且'2'被接受?我该怎么做才能接受'1'

1)-118.27 =错误

2)-18.27 = ok

1 个答案:

答案 0 :(得分:7)

比例是指小数位的右侧的位数。如果您有精度16和刻度14,则小数位的左侧只能有2位数,所以

18.12345678901234 = ok 
118.27 = error

尝试:

precision="16" scale="13" 

这将允许118.1234567890123,但这是很多小数位。你真的需要多少?

precision="16" scale="4"

将允许123456789012.1234