导出非托管函数指针时访问冲突

时间:2015-03-30 21:07:50

标签: c# .net pointers c++-cli dllexport

过去4个小时我一直试图解决一个非常神秘的问题。

我正在为Notepad ++编写一些插件。要实现语法高亮,必须导出这样的函数:

//this function is exported via exports.def file
LexerFactoryFunction SCI_METHOD GetLexerFactory(unsigned int index)
{
    return (index == 0) ? RTextLexer::LexerFactory : nullptr;
}

其中,

LexerFactoryFunction is typedef ILexer *(*LexerFactoryFunction)();
#define SCI_METHOD __stdcall

我已经设法让这个东西与C ++完美配合,但插件的另一部分是用C#编写的,所以我尝试使用Fody Costura NuGet包合并两者(以便CLI .dll嵌入到主.dll),但没有成功。

我尝试了什么:

public ref class RTextLexerCliWrapper
{
public:
    delegate ILexer * GetLexerFactoryDelegate();

IntPtr GetLexerFactory()
{
    return System::Runtime::InteropServices::Marshal::GetFunctionPointerForDelegate(_lexerFactoryPtr);
}

RTextLexerCliWrapper();
private:
    GetLexerFactoryDelegate ^ _lexerFactoryPtr;
    GCHandle gch;

    ~RTextLexerCliWrapper();
};

RTextLexerCliWrapper::RTextLexerCliWrapper()
{
    _lexerFactoryPtr = gcnew GetLexerFactoryDelegate(&RTextLexer::LexerFactory);
    gch = GCHandle::Alloc(_lexerFactoryPtr);
}


RTextLexerCliWrapper::~RTextLexerCliWrapper()
{
    gch.Free();
}

此CLI包装器在我的主.dll中引用,如下所示:

static RTextLexerCliWrapper _lexerWrapper = new RTextLexerCliWrapper();

[DllExport(CallingConvention = CallingConvention.Cdecl)]
static IntPtr GetLexerFactory(uint index)
{            
     return (index == 0) ? _lexerWrapper.GetLexerFactory() : IntPtr.Zero;
}

所以会发生什么,我的.net函数确实被调用,并且还调用了cli包装器函数,并且确实返回了一个函数指针。但是,任何调用该函数指针的尝试都会导致访问冲突。这意味着指针的类型错误或我当前缺少的其他东西。我已尝试使用void *, StdCall等.net导出函数的无数变体。所有这些都会导致同样的问题。

还有其他方法可以返回C ++类的函数指针吗?或者我做错了什么?

提前致谢!

1 个答案:

答案 0 :(得分:1)

所以我终于找到了解决问题的方法。

第一步是使用正确的调用约定导出函数:

    static RTextLexerCliWrapper _lexerWrapper = new RTextLexerCliWrapper();

    [DllExport(CallingConvention = CallingConvention.StdCall)]
    static IntPtr GetLexerFactory(uint index)
    {            
        return (index == 0) ? _lexerWrapper.GetLexerFactory() : IntPtr.Zero;
    }

这种情况下的惯例必须是StdCall。否则堆栈指针无效,因此例外。

现在为了返回C ++实例的函数指针,事情有点棘手。

我静态存储CLI包装器类的一个实例,这样它就不会得到GCed。 (_lexerWrapper)。

这个实例有一个名为GetLexerFactory的函数,它返回一个C ++实例的函数指针(然后由其他一些.dll用来获取某个对象的实际实例)。

CLI Wrapper类如下所示:

    public ref class RTextLexerCliWrapper
    {
    public:

        delegate ILexer * GetLexerFactoryDelegate();

        IntPtr GetLexerFactory()
        {
            return System::Runtime::InteropServices::Marshal::GetFunctionPointerForDelegate(_lexerFactoryPtr);
        }

        RTextLexerCliWrapper();

    private:
        GetLexerFactoryDelegate ^ _lexerFactoryPtr;
        GCHandle gch;

        ~RTextLexerCliWrapper();
    };

其中ILexer *是我们稍后将返回的对象的类型。

    RTextLexerCliWrapper::RTextLexerCliWrapper()
    {
        _lexerFactoryPtr = gcnew GetLexerFactoryDelegate(&RTextLexer::LexerFactory);
        gch = GCHandle::Alloc(_lexerFactoryPtr);
    }


    RTextLexerCliWrapper::~RTextLexerCliWrapper()
    {
        gch.Free();
    }

所以,我们在这里管理的是,通过.NET导出一个能够返回纯C ++对象的函数指针。