我在VB 6和VB.NET中得到两个不同的结果,用于处理分区操作的相同代码。
ABC = 9.999728
result = IIf(ABC <> 0, 1 / ABC, 10 ^ 10)
在VB6中,我得到了结果= 0.1000027
在VB.NET中,结果为0.100002721
但是,当我在VB.NET中使用CSng(Val(CStr(result)))
时,我得到0.1000027。
1)为什么VB.NET与VB6相比会产生不同的精度?
2)为什么CSng(Val(CStr(result)))
产生与VB6相同的精度?
3)这可能看起来很简单,但这个问题会重复并传播到我的最终结果,这与VB6中的等效结果不同。我能否安全地假设VB.NET结果比VB6更精确并完全丢弃VB6结果?
答案 0 :(得分:0)
在VB6中:
Dim ABC, result
ABC = 9.999728
result = IIf(ABC <> 0, 1 / ABC, 10 ^ 10)
MsgBox result
显示器:
0.100002720073986
随机使用CSng()
当然会截断精度,应该像瘟疫一样避免使用过时的Val()
函数。如果您想要Double,请改用CDbl()
。