列的表达式字段中的公式

时间:2010-06-23 12:37:13

标签: c#

我在数据表中使用了一个表达式,如下所示:

(col2-col1)*col3/100

col2和col1是bigint,col3是smallint

但是,最后它返回的数字并不完全是它必须的数字。

例如:

(100000-0)* 10/100将返回9999

为什么?

1 个答案:

答案 0 :(得分:1)

听起来像一个四舍五入的问题。你能用显式精度切换到十进制类型(而不是int变体)吗?