比较浮动和真实时我遇到了问题。以下是一些例子:
KDB版本:2.7(2012-02-20)
4.7e = 4.7f
输出:false
原因:Kdb将4.7e转换为4.6999998e
所以,4.7e< 4.7f --->输出中:真
4.347e = 4.347f
输出:假
原因:4.347e转换为4.3470001e
所以,4.347e> 4.347f --->输出:真
我不确定这里发生了什么。你尝试的更多例子,你会得到更多的回答。
答案 0 :(得分:1)
kdb wiki上还有一些特定的信息(不确定你是否已经看过它们)
http://code.kx.com/q/cookbook/precision/#float-precision
http://code.kx.com/q/cookbook/precision/#comparison-tolerance