Question

情况如下。我正在使用MS Visual Sturio 2005和Excel 2007.我创建了一个包含函数的dll

extern "C" VARIANT WINAPI MyFunc()
{
  VARIANT res;
  memset(&res, 0, sizeof(VARIANT));
  ::VariantInit(&res);    
  return res;
}

从Excel VBA调用。此功能似乎正常工作。但是有一个问题：当VBA从我的函数返回并尝试执行下一个浮点指令时，我看到一个窗口：

运行时错误6.溢出。

这个错误很奇怪。我在过去几天一直在调查，这里是我收集的“事实”：

1）只有在第一次调用dll后才会显示错误。对此函数的所有连续调用都不会导致此错误。

2）控件从dll返回后，VBA代码中的第一个（看似无害的）浮点指令触发错误：

Dim dMinValue As Double
dMinValue = 10000000#

3）构建dll的项目包含4个文件：mydll.cpp，mydll.def，cSomeClass.cpp和cSomeClass.h。

cSomeClass是一个相当复杂的类，它从我的其他库中调用代码。但mydll.cpp不以任何方式使用cSomeClass。以下是mydll.cpp的代码：

#include <OAIdl.h>
#include <float.h>
BOOL APIENTRY DllMain(HANDLE hModule, DWORD  ul_reason_for_call, LPVOID lpReserved) 
{
  return TRUE;
}
extern "C" VARIANT WINAPI MyFunc()
{
  unsigned int u;
  u = _controlfp(0, 0);
  _controlfp(u & ~(_EM_INVALID | _EM_DENORMAL | _EM_ZERODIVIDE | _EM_OVERFLOW | _EM_UNDERFLOW | _EM_INEXACT), _MCW_EM);

  VARIANT res;
  memset(&res, 0, sizeof(VARIANT));
  ::VariantInit(&res);

  return res;
}

MyFunc()的初始版本没有前3行（与_controlfp()混淆的行），它在VBA中导致"Runtime Error 6, Overflow"。然后我开始怀疑这个错误可能与FPU注册表有关（我对这些很少了解）。当我添加这3行时，当我调用_controlfp() - "0xC0000090: Floating-point invalid operation."时会抛出异常。如果我保留上面显示的代码，异常导致堆栈展开（我们没有到达VARIANT res;行），并且在Excel中显示一个说"runtime error 6. Overflow."的窗口。总结一下，添加这3行会导致浮点异常提前抛出。如果我们捕获第3行中抛出的异常（带有__except子句）并忽略它（通过callng _clearfp()），则Excel中不会报告错误。

NASTY DETAIL：如果从Visual Studio项目中删除文件cSomeClass.cpp和cSomeClass.h，则不会再现错误。 cSomeClass.h未包含mydll.cpp，但如果从项目中删除cSomeClass.*个文件，则dll大小会显着缩小。

我最好的猜测是cSineClass.cpp引用的LIB-s中有一些静态对象导致这种情况。也许这些对象在加载dll时被初始化（构造）（根据我的实验，在DllMain之前）并且这会以某种方式导致设置"0xC0000090: Floating-point invalid operation."的错误标志。当我们从dll返回到Visual Basic时，有些人调用_controlfp并启用浮点异常（它们在С++中关闭）当引发"0xC0000090: Floating-point invalid operation."以某种方式转换为"Runtime Error 6. Overflow."时我在Excel中看到的。这只是猜测。 unti现在我还没有发现任何静态对象可以这样做。

不幸的是，我无法创建一个重现此错误的小例子，因为它仅在我cSomeFile.*作为项目的一部分时出现。这些文件需要我所有的库...

如果有人知道这种行为可能是什么原因，或者对如何推进我的调查提出建议，我们将不胜感激。

Answer 1

1）显然，当我从VBA进入DLL代码时，FPU异常被关闭，就像有人打电话一样

  u = _controlfp( 0, 0 );
  _controlfp( u & ((_EM_INVALID | _EM_DENORMAL | _EM_ZERODIVIDE | _EM_OVERFLOW | _EM_UNDERFLOW | _EM_INEXACT )), _MCW_EM );

在将控制传递给我的dll代码之前。

2）在任何时候调用std :: numeric_limits :: signaling_NaN（）会导致_EM_INVALID标志在浮点状态字中设置（可以通过调用_statusfp（）来看到。）

3）当从DLL返回控件时，似乎打开了FPU异常。好像有人打来电话：

  u = _controlfp( 0, 0 );
  _controlfp( u & (~(_EM_INVALID | _EM_DENORMAL | _EM_ZERODIVIDE | _EM_OVERFLOW | EM_UNDERFLOW | _EM_INEXACT )), _MCW_EM );

这会导致运行时错误。

Answer 2

所以我在各个方面都有与Excel类似的随机问题，你是我的英雄。

我发现通过调用_clearfp()，它会使错误安静并正确返回值。我认为问题产生于我在整个地方使用_HUGE值来表示无效的浮点数。哪个设置了标志，并导致Excel（并且只有excel）到barf。在任何其他程序之前，我从未遇到过运行时异常的任何问题。

从VBA调用dll函数时出现浮点错误

2 个答案: