标签: ruby-on-rails ruby decimal bigdecimal
我遇到Bigdecimal乘法问题。我有一栏:
t.decimal "average_price", precision: 8, scale: 2
我的示例average_price看起来像"3.59280368"。当我尝试使用此值进行一些计算时,我得到:
average_price
"3.59280368"
@itam.average_price * 1000000 = 3590000
为什么不3592803?
3592803
答案 0 :(得分:5)
根据rails api documentation:
精度是有效位的总数,而刻度是小数点后可以存储的位数。
因此,在数据库中:3.59280368将存储为3.59。
3.59280368
3.59