在我的调试器(VS2010)中,我可以使用SqlCeCommand
验证我是否正在向 SqlCeServer 3.5数据库发送正确的值。
之后查看数据,我注意到我的float
值的部分是倾斜的。
当我输入0.006
时,数据库将存储0.0060000000521540642
当我输入0.012
时,数据库将存储0.0120000001043081
当我输入0.011
时,数据库将存储0.0109999999403954
其他浮动值(1.125,0.875,0.75)存储得很好。
为了确保我的float
值存储正确,我需要做些什么吗?
答案 0 :(得分:2)
Don't use float:它是近似
使用固定精度:decimal/numeric
答案 1 :(得分:0)
来自msdn:
“并非所有数据类型范围内的值都可以准确表示。”
看起来你找到了其中一些!