我一直在与这个问题作斗争一段时间,我希望有人可以提供帮助。我正在将VB6应用程序转换为C#。我要展示的所有内容在VB6中都是完美的,但在C#中失败了。
我正在对一个C dll进行API调用,传递一个结构。结构在C端获得了修改的值,我应该在返回结构中看到修改后的值。
注意,Sig是int,Status是int,CLIENTID是UINT_PTR。
以下是C结构:
typedef struct
{
short vers;
short flags;
short cmd;
short objtype;
DWORD id;
DWORD client;
char buf[MAX_TOOLBUF];
DWORD toolID;
NMSG msg;
DWORD caller;
CLIENTID clientID;
DWORD ticket;
ToolResult PTR result;
long spare[4];
} Request;
typedef struct
{
DWORD hwnd;
DWORD message;
DWORD wParam;
DWORD lParam;
} NMSG;
typedef struct
{
Sig sig;
short cnt;
Status error;
DWORD ticket;
DWORD toolID;
long spare[4];
} ToolResult;
在我的C#代码中,我定义了以下结构来映射到上面的C结构:
[StructLayout(LayoutKind.Sequential)]
public struct NMSG
{
public int hWnd;
public int msg;
public int wParam;
public int lParam;
}
[StructLayout(LayoutKind.Sequential)]
public struct Request
{
public Int16 vers;
public Int16 flags;
public Int16 cmd;
public int16 objType;
public int id;
public int Client;
[MarshalAs(UnmanagedType.ByValTStr, SizeConst = 260)]
public string buf;
public int toolID;
public NMSG msg;
public int caller;
public IntPtr clientID;
public int ticket;
public ToolResult result;
[MarshalAs(UnmanagedType.ByValArray, SizeConst= 4) ]
public int64[] spare;
}
这是C代码中的方法修饰:
SendRequest(Request PTR req)
{
....
}
以下是C#中使用这些结构的API中的PInvoke声明:
[DllImport("TheCDLL.dll", EntryPoint = "_Request@4", CharSet = CharSet.Ansi, CallingConvention = CallingConvention.Cdecl)]
public static extern void Request(ref Request req);
这是我的C#代码填充结构并进行API调用:
Request req = new Request();
req.vers = 1;
req.toolID = 4000;
req.Client = 0;
req.cmd = 11;
req.objType = 1;;
req.id = 1;
req.msg.hWnd = Hwnd; // verified this is a valid window handle
req.msg.msg = 1327;
req.msg.wParam = 101;
req.msg.lParam = 0;
req.spare = new int[4];
req.buf = new string(' ', 260);
req.flags = 11;
Request(ref req);
问题是,在VB6代码中,结构项'result'在我进行API调用后会被填充一个值。在C#中,“结果”总是只有0.我猜我的编组方式一定有问题吗?我已经阅读了数十篇文章,并尝试了许多不同的方法来使这项工作取得成功。任何帮助表示赞赏!
更新:现在我已根据以下建议更新了代码(修复类型并清理最初编写的代码),我得到一个例外:
System.AccessViolationException: Attempted to read or write protected memory. This is often an indication that other memory is corrupt.
我发现,一旦我在Request结构中从'public int vers'更改为'public Int16 vers',就会发生这种情况。想法?
答案 0 :(得分:1)
UnmanagedType.Struct实际上不适用于子结构;它使Marshaler将相关对象作为VARIANT传递。这不是你想要的。尝试取消除了字符串(长度),数组(也用于长度)和枚举类型之外的所有MarshalAs语句(我在这里看不到任何语句,但在我的DLL中它们是UnmanagedType.I4)并且看到如果可行的话。
你的C#结构中还有一些额外的东西不在你的C版本中,两个之间的几个变量不匹配,你的C函数除了你的C#extern期望IntPtr之外没有返回任何东西。这些确实需要匹配一切顺利。 (我猜这只是网站的简化,但要记住这一点。)