Question

我编写了以下算法来将十进制值转换为二进制/十六进制等。

string toFormatFromDecimal(long long t, Format format) {
    int digitCount = ceil(log(t) / log((int) format));
    string hex = "";
    for (int i = 0; i < digitCount; i++) {
        long double cur = (long double)t / (long double)(format);
        long long ganzzahl = (long long) cur;
        long double kommazahl = cur - ganzzahl;
        hex += digits[(long long) (kommazahl * format)];
        t = ganzzahl;
    }
    return string(hex.rbegin(), hex.rend());
}

我在Linux上使用GCC，在Windows上使用Visual Studio c ++编译器似乎我在“整数”部门得到了不同的值：

long long ganzzahl = (long long) cur;

任何想法如何发生这种情况？在Linux和Windows上有不同的预测吗？

由于弗洛里安

- 解决方案 -

string toFormatFromDecimal(long long t, Format format) {
    int digitCount = ceil(log(t) / log((int) format));
    string hex = "";
    for (int i = 0; i < digitCount; i++) {
        hex += digits[(int) (t%format)];
        t = t/format;
    }
    return string(hex.rbegin(), hex.rend());
}

Answer 1

是的，GCC和Visual Studio C ++有不同的long double类型。在GCC生成x86代码时，long double是80位双扩展IEEE 754格式（*），而Visual Studio C ++则将long double视为64位双精度IEEE 754格式（* ）。

所以(long double)t在两个平台上都不一定是相同的数字，而且除法也不一样。虽然您已将问题标记为“整数除法”，但它是不同浮点类型之间的浮点除法。

（*）几乎：它的行为非常类似于具有15个指数位和63个有效位的79位IEEE 754类型，但它具有稍宽的指数范围，因为它使用了一个显式位用于在有效数字中领先1。

（**）几乎：因为编译器生成的指令在将x87配置为53位有效数字后使用历史x87指令，否则非正规结果可能是双舍入的（reference）。

Linux和Windows上的相同计算 - ＆gt;不同的结果

1 个答案: