KDB Real类型的突然行为

时间:2014-08-05 05:42:00

标签: kdb

比较浮动和真实时我遇到了问题。以下是一些例子:

KDB版本:2.7(2012-02-20)

  1. 4.7e = 4.7f
    输出:false

    原因:Kdb将4.7e转换为4.6999998e

    所以,4.7e< 4.7f --->输出中:真

  2. 4.347e = 4.347f

    输出:假

    原因:4.347e转换为4.3470001e

    所以,4.347e> 4.347f --->输出:真

  3. 我不确定这里发生了什么。你尝试的更多例子,你会得到更多的回答。

1 个答案:

答案 0 :(得分:1)

kdb wiki上还有一些特定的信息(不确定你是否已经看过它们)

http://code.kx.com/q/cookbook/precision/#float-precision

http://code.kx.com/q/cookbook/precision/#comparison-tolerance