PInvoke FatalExecutionEngineError

时间:2013-01-16 10:35:43

标签: c# c++ pinvoke

我使用PInvoke从c#代码访问C ++库。但是我在使用以下功能时遇到了问题:

UINT32 myfunc(IN char * var1, IN UINT32 var2, INOUT UINT16 * var3, OUT UINT8 * var4)

文件说:

  

返回参数是错误代码

     

var1是一个字符串

     

var2是一个整数

     

var3是一个指向整数的指针(该值将是var4的大小,该值将由函数更改)

     

var4是指向将由函数

填充的缓冲区的指针

当我使用

[DllImport("mydll.dll", CallingConvention = CallingConvention.Cdecl)]
public static extern int myfunc(string var1, int var2, out int var3, 
    out byte[] var4);

该函数提供以下异常:

  

托管调试助手'FatalExecutionEngineError'在'C:\ Users ... \ Documents \ Projects ... \ bin \ Debug ... vshost.exe'中检测到问题。

     

附加信息:运行时遇到致命错误。在线程0x2edc上,错误的地址为0x74292e44。错误代码是0xc0000005。此错误可能是CLR中的错误,也可能是用户代码的不安全或不可验证部分中的错误。此错误的常见来源包括COM-interop或PInvoke的用户封送错误,这可能会破坏堆栈。

     

如果存在此异常的处理程序,则可以安全地继续该程序。

我尝试使用参数来查看是否可以获得任何内容,并且我更改了charset,如下所示:

[DllImport("mydll.dll, CallingConvention = CallingConvention.Cdecl", CharSet = CharSet.Unicode)]
public static extern int myfunc(string var1, int var2, out int var3, out byte[] var4);

在这种情况下,它不会给出FatalExecutionEngineError,而是返回没有错误的函数。但返回值表示函数中发生了内部错误。 (我不知道为什么charset更改会阻止FatalExecutionEngineError。)

我不确定我做错了什么,请帮助我。

2 个答案:

答案 0 :(得分:3)

p / invoke声明应如下所示:

[DllImport("mydll.dll", CallingConvention = CallingConvention.Cdecl)]
public static extern int myfunc(
    string var1, 
    uint var2, 
    ref ushort var3, 
    byte[] var4
);

然后你这样称呼它:

string var1 = "...";
uint var2 = ...;
ushort var3 = 1024;//use whatever length buffer you want to pass
byte[] var4 = new byte[var3];
int retval = myfunc(var1, var2, ref var3, var4);
Array.Resize(ref var4, var3);

本机代码的工作方式是它希望调用代码分配缓冲区var4。调用代码表示缓冲区在var3中的时长。

然后,当本机代码返回时,var3包含缓冲区的实际长度。或者可能是复制的字节数。前者更有用。假设前者那么你可以这样写:

string var1 = "...";
uint var2 = ...;
ushort var3 = 0;
int retval = myfunc(var1, var2, ref var3, null);
byte[] var4 = new byte[var3];
int retval = myfunc(var1, var2, ref var3, var4);

您应该检查返回值等。

我无法100%确定如何调用该函数,因为您的问题中没有足够的信息。至少p / invoke签名现在与您的C ++代码匹配。

答案 1 :(得分:1)

这可能是一个非常危险的功能,它可以通过第四个参数任意地将垃圾喷射到内存中。如果它设计得很好(手指交叉),那么它应该允许您首先测量所需的缓冲区大小。任意猜测:

[DllImport("mydll.dll, CallingConvention = CallingConvention.Cdecl", CharSet = CharSet.Ansi)]
public static extern int myfunc(string name, ref int var2, ref int buflen, IntPtr buf);

string name = "foo";
int var2 = 42; //???
int len = 0;
int error = myfunc(name, ref var2, ref len, IntPtr.Zero);
if (error == BUFFER_TOO_SMALL) {
    IntPtr buf = Marshal.AllocCoTaskMem(len);
    try {
       error = myfunc(name, ref var2, ref len, buf);
       if (error == OK) {
           var bytes = new bytes[len];
           Marshal.Copy(buf, bytes, 0, len);
           //...
       }
    }
    finally {
       Marshal.FreeCoTaskMem(buf);
    }
}
if (error != OK) handleError(error);

这是相当沉重的猜测。如果该函数实际上不允许您首先询问所需的缓冲区大小,那么您应该更改C代码,使其像这样工作。只有这样才能安全地召唤它。