Question

我正在尝试在新的Windows Server 2012环境中托管Web应用程序，但是我收到了一个未经证实的错误。此代码已存在于我们的代码库中多年，并且在任何其他平台上都没有遇到任何问题。

有问题的代码调用了advapi32.dll的CryptCreateHash函数 - 一个Microsoft加密库。调用函数时，我返回0表示调用失败，随后Err.LastDllError返回错误代码87，即ERROR_INVALID_PARAMETER。

正如我之前所说的，这段代码在各种环境中都运行了很多年 - 包括开发人员使用的Windows Server 2012测试机。但是当放在也运行Server 2012的实时环境时（虽然在负载平衡系统的稍微复杂的上下文中），我收到错误。这两台服务器都没有更新到Windows Server 2012 R2，它正在运行操作系统的开箱即用版本。

使用以下方法创建Crypt Provider的句柄后：

CryptAcquireContext(hCryptProv, vbNullString, SERVICE_PROVIDER, PROV_RSA_FULL, CRYPT_VERIFYCONTEXT)

我使用hCryptProv来调用CryptCreateHas函数。

  If CryptCreateHash(hCryptProv, CALG_MD5, 0, 0, hHash) = 0 Then
      Dim _error As Integer = Err.LastDllError
      Throw New CryptoException("Error during CryptCreateHash. Error Code: " & _error.ToString)
  End If

从live和dev环境传递给方法的一些数据示例：

开发：
hCryptProv = 4966968
CALG_MD5 = 32771
hHash = 0

活：
hCryptProv = 1587622576
CALG_MD5 = 32771
hHash = 0

看起来这两组参数基本相同，尽管服务器的hCryptProv往往是一个更大的数字（可能是因为它有更多的RAM？）。

我试图使用SHA1而不是MD5，但发生了同样的错误。

可能这是一个32/64位相关的问题，假设advapi32.dll是32位？

任何建议都将不胜感激，谢谢。

修改

要求的原型：

Private Declare Function CryptAcquireContext Lib "advapi32.dll" Alias "CryptAcquireContextA" _
    (ByRef phProv As IntPtr, _
     ByVal pszContainer As String, _
     ByVal pszProvider As String, _
     ByVal dwProvType As Integer, _
     ByVal dwFlags As Integer) As Integer


Private Declare Function CryptCreateHash Lib "advapi32.dll" _
    (ByVal hProv As IntPtr, _
     ByVal Algid As Integer, _
     ByVal hKey As Integer, _
     ByVal dwFlags As Integer, _
     ByRef phHash As Integer) As Integer

我一直在使用phProv的数据类型，首先它是Integer，我还没有使用IntPtr进行测试。我尝试使用ULong，因为这是在MSDN文档中定义HCRYPTPROV数据类型的方式。

typedef ULONG_PTR HCRYPTPROV;

此处还有CryptAcquireContext在各种配置中返回的句柄值：

LIVE 32: hCryptProv = 606412672 
LIVE 64: hCryptProv = -1480179632 
LOCAL: hCryptProv = 4966968 
DEV 32: hCryptProv = 99009648 
DEV 64: hCryptProv = 918798256

这是从我使用Integer作为数据类型时，注意live溢出。

编辑2

这可能是固定的。现在，当我调用CryptDecrypt时，我收到错误-2146893820（NTE_BAD_LEN）。可能与*pdwDataLen变量有关。

以下是方法定义：

Private Declare Function CryptDecrypt Lib "advapi32.dll" _
                              (ByVal hKey As IntPtr, _
                              ByVal hHash As IntPtr, _
                              ByVal Final As Boolean, _
                              ByVal dwFlags As Integer, _
                              ByVal pbData As String, _
                              ByRef pdwDataLen As Integer) _
                            As <MarshalAs(UnmanagedType.Bool)> Boolean
End Function

电话：

lLength = Len(strData)
If CryptDecrypt(_hKey, 0, 1, 0, sTemp, lLength) = False Then
                Dim _error As Integer = Err.LastDllError
                Throw New CryptoException("Error during CryptDecrypt. Error Code: " & _error.ToString)
            End If

Answer 1

如果您的类型为ULONG_PTR，则需要在.NET中将其定义为IntPtr。您还需要一个DllImportAttribute CryptCreateHash应该是：

Declare Auto Function CryptCreateHash Lib "advapi32.dll" _
    (ByVal hProv As IntPtr, _
     ByVal algId As Integer, _
     ByVal hKey As IntPtr, _
     ByVal dwFlags As Integer, _
     ByRef phHast As IntPtr) As <MarshalAs(UnmanagedType.Bool)> Boolean

另外，请务必告诉它设置上一个错误。在C＃中，我们使用DllImportAttribute并确保SetLastError=true。否则，调用Marshal.GetLastWin32Error不会返回预期的内容。

更新

您的CryptDecrypt原型应该是：

Declare Function CryptDecrypt Lib "advapi32.dll" 
    (ByVal hkey As IntPtr, _
     ByVal hHash As IntPtr, _
     <MarshalAs(UnmanagedType.Bool)> ByVal final As Boolean, _
     ByVal flags As Integer, _
     ByVal data As Byte(), 
     ByRef dataLen As Integer) As <MarshalAs(UnmanagedType.Bool)> Boolean

您需要将字符串转换为字节数组。另请注意，dataLen参数是字节缓冲区的长度，而不是字符串的长度。

您应该查看pinvoke.net，其中包含大多数Windows API调用的托管原型和示例。

在服务器2012上使用MS加密库 - CryptCreateHash错误代码87：ERROR_INVALID_PARAMETER

1 个答案:

更新