C无符号长期错误计算

时间:2014-01-07 03:46:06

标签: c

我甚至不知道如何命名这个问题,所以首先我将介绍一些代码:

void hsvm2dcd72f(const hsvm_t *src, dcd72f_t *result, unsigned long long range)
{
    int h, s, v;
    int kh, ks, kv;
    int i;
    int indexes[72];
    int values[72];
    unsigned long long sum = 0;
    unsigned long long temp = 0;

    for (i = 0; i < 72; i++)
    {
        result->values[i] = 0;
        values[i] = 0;
    }

    for (i = 0; i < src->length; i++)
    {

        h = (int) src->content[i].h;
        s = (int) src->content[i].s;
        v = (int) src->content[i].v;

        // kwantyzacja H
        if ((h >= 316) || (h < 20))
            kh = 0;
        else if ((h >= 20) && (h < 40))
            kh = 1;
        else if ((h >= 40) && (h < 75))
            kh = 2;
        else if ((h >= 75) && (h < 155))
            kh = 3;
        else if ((h >= 155) && (h < 190))
            kh = 4;
        else if ((h >= 190) && (h < 270))
            kh = 5;
        else if ((h >= 270) && (h < 295))
            kh = 6;
        else if ((h >= 295) && (h < 316))
            kh = 7;

        // kwantyzacja S
        if ((s >= 0) && (s <= 20))
            ks = 0;
        if ((s > 20) && (s <= 70))
            ks = 1;
        if ((s > 70) && (s <= 100))
            ks = 2;

        //kwantyzacja V
        if ((v >= 0) && (v <= 20))
            kv = 0;
        if ((v > 20) && (v <= 70))
            kv = 1;
        if ((v > 70) && (v <= 100))
            kv = 2;

        values[9 * kh + 3 * ks + kv]++;
    }

    quicksorti((int*) &indexes, (int*) &values, 72);

    //norm
    for (i = 72 - 8; i < 72; i++)
        sum += (unsigned long long) values[indexes[i]];

    unsigned long long temp1 = 65535;
    temp = (unsigned long long) range;
    if(temp == temp1)
        printf("ok");
    for (i = 72 - 8; i < 72; i++)
    {
        result->values[indexes[i]] = values[indexes[i]]*temp1 / sum;
    }
}

struct dcd72f // result struct
{
    unsigned long long values[72]; /**< dcd descriptor values. */
};
typedef struct dcd72f dcd72f_t;

比较后显示“ok”,因此temp1和temp相等(这是我的目标),但根据变量,我在result->values[indexes[i]]得到了不同的结果,temp和{ {1}}。 temp1结果是正确的,但我需要temp1灵活。

我在Windows上使用GCC和eclipse。知道如何解决这个问题吗?

编辑: tempprintf("%llu\n", temp);都返回65535 ...

1 个答案:

答案 0 :(得分:-1)

您从未在某种情况下比较两个浮点数。范围内的实数是无限的,但浮点数不是。它有无限的空白,它们给你一个近似值。比较器==是二进制级别。这一定是你的问题。