这真的很奇怪。我正在追踪这个错误:
否定二进制补码数的最小值无效。
......事实证明这是由于这样的代码:
var valueFromUser = "470259123000000";
var doubleValue = Convert.ToDouble(valueFromUser, CultureInfo.InvariantCulture);
Math.Abs((int)doubleValue);
的确,当我在LINQPad中运行它时:
(int)Convert.ToDouble("470259123000000", CultureInfo.InvariantCulture)
......它给了我:
-2147483648
然而,这里的另一位开发人员说他得到的东西完全不同(不是在LINQPad中):
-1141206336
当我尝试仅在常量上评估转换时:
(int)470259123000000.0
...由于需要unchecked
,我收到编译错误。这个:
unchecked((int)470259123000000.0)
...像其他开发者一样评估-1141206336
。所以我想也许Convert
创造了一个与常数略有不同的值。不,这评估为True
:
Convert.ToDouble("470259123000000", CultureInfo.InvariantCulture) == 470259123000000.0
这到底是怎么回事?为什么评估这些看似相同的表达会产生如此不同的结果?
更新:
找到一个提示。 4.70259123E14
和-1141206336
的十六进制表示形式为:
0x42FABB2BBFA92C00
0xBBFA92C0
所以我猜其中一个演员将这些位直接推入int
。所以-2147483648
是一个更大的谜团。
答案 0 :(得分:3)
我不确定其根本原因,但它看起来像编译器错误,因为使用Roslyn编译的程序为两个表达式提供相同的值(-2147483648)。
允许编译器在编译时计算常量表达式。所有带有未经检查表达式的转换都是由编译器完成的,但在另一种情况下,它们是由CLR在运行时完成的,因此总是有可能使用稍微不同的规则。正如您所观察到的,编译器似乎与运行时截断不同,以使值适合32位整数。您可以在底层IL中看到程序只是加载常量值(0xbbfa92c0)来代替未经检查的表达式。
using System;
using System.Globalization;
public class Program
{
public static void Main(string[] args)
{
var n = unchecked((int)470259123000000.0);
Console.WriteLine(n);
n = (int)Convert.ToDouble("470259123000000", CultureInfo.InvariantCulture);
Console.WriteLine(n);
}
}
从.NET 4.5编译器反编译IL:
.method public hidebysig static void Main(string[] args) cil managed
{
//
.maxstack 2
.locals init (int32 V_0)
IL_0000: nop
IL_0001: ldc.i4 0xbbfa92c0
IL_0006: stloc.0
IL_0007: ldloc.0
IL_0008: call void [mscorlib]System.Console::WriteLine(int32)
IL_000d: nop
IL_000e: ldstr "470259123000000"
IL_0013: call class [mscorlib]System.Globalization.CultureInfo [mscorlib]System.Globalization.CultureInfo::get_InvariantCulture()
IL_0018: call float64 [mscorlib]System.Convert::ToDouble(string,
class [mscorlib]System.IFormatProvider)
IL_001d: conv.i4
IL_001e: stloc.0
IL_001f: ldloc.0
IL_0020: call void [mscorlib]System.Console::WriteLine(int32)
IL_0025: nop
IL_0026: ret
} // end of method Program::Main