Question

我在DLL中有一个专有的库（我没有代码），已经在VB6中使用了多年。我正在尝试将VB6代码升级到C＃，并希望使C＃代码完全复制VB6行为。我无法在从每个环境调用DLL时完全执行某些计算的双精度结果。

在VB6中我有这样的东西（注意文件的读写是为了确保使用和生成完全相同的值）：

Dim a As Double, b As Double, c As Double, d As Double
Open "C:\input.txt" For Binary As #1
Get #1, , a
Get #1, , b
Get #1, , c
Get #1, , d
Close #1
Dim t As New ProprietaryLib.Transform
t.FindLine a, b, c, d
Open "C:\output.txt" For Binary As #1
Put #1, , t.Slope
Put #1, , t.Intercept
Close #1

在C＃中，我有类似的东西：

System.IO.BinaryReader br = new System.IO.BinaryReader(System.IO.File.Open(@"C:\input.txt", System.IO.FileMode.Open));
double a, b, c, d;
a = br.ReadDouble();
b = br.ReadDouble();
c = br.ReadDouble();
d = br.ReadDouble();
br.Close();
ProprietaryLib.Transform t = new ProprietaryLib.Transform();
t.FindLIne(a, b, c, d);
System.IO.BinaryWriter bw = new System.IO.BinaryWriter(System.IO.File.Open(@"C:\output2.txt", System.IO.FileMode.Create));
bw.Write(t.Slope);
bw.Write(t.Intercept);
bw.Close();

我已经验证输入被相同地读取（通过将二进制值重写到文件来验证），因此将相同的双精度数字馈送到DLL。输出值非常相似，但不相同（值有时在数字的最低有效部分关闭，在15-17小数点的噪声中，二进制写入文件验证它们是不同的二进制值）。有没有人对为什么这些值计算得不完全相同或者我如何修复或调试它有任何建议？

Answer 1

这可能是因为用于双精度的不同标准

默认情况下，VB6使用较不精确的内部标准（当时）性能原因。
.NET符合用于二进制浮点运算的IEEE 754标准

您可以使用/OP选项编译VB6应用程序，以提高浮动一致性。

默认情况下，编译器使用协处理器的80位寄存器来保存浮点计算的中间结果。这会提高程序速度并减少程序大小。但是，由于计算涉及在内存中表示的浮点数据类型少于80位，因此通过冗长的计算可以产生额外的精度位（80位减去较小浮点类型中的位数）结果不一致。（来源：MSDN）

从VB6和C＃调用DLL在双精度中给出略微不同的结果

1 个答案: