rsa_public_encrypt返回-1,错误0x0406B07A

时间:2018-03-02 12:36:26

标签: c++ openssl error-code

我正在尝试使用RSA_public_encrypt加密数据,但它似乎不起作用(retEnc始终为-1)。我还尝试使用ERR_get_errorERR_error_string找到有关错误的更多信息。

这是代码:

RSA *rsaPkey = NULL;

FILE *pemFile;
fopen_s(&pemFile, filename.c_str(), "r");
rsaPkey         = PEM_read_RSA_PUBKEY(pemFile, &rsaPkey, NULL, NULL);
fclose(pemFile);

if(rsaPkey == NULL)
    throw "Error pubkey file";

int size = RSA_size(rsaPkey);
unsigned char *encrypted;
encrypted = new unsigned char[size];

string instr  = "test";
int length = instr.length();
unsigned char *in = (unsigned char *)(instr.c_str());

unsigned long errorTrack = ERR_get_error() ;

int retEnc = RSA_public_encrypt(length, in, (unsigned char *)encrypted, rsaPkey, RSA_NO_PADDING);
errorTrack = ERR_get_error() ;
char *errorChar = new char[120];
errorChar = ERR_error_string(errorTrack, errorChar);

ERR_error_string给了我error:0406B07A:lib(4):func(107):reason(122)

如何找到有关此内容的更多详细信息,在哪里可以找到库4和功能107?

当我尝试使用openssl cli和相同的公钥文件进行加密时,加密工作正常。

1 个答案:

答案 0 :(得分:1)

ERR_error_string gives me error:0406B07A:lib(4):func(107):reason(122)
     

如何找到有关此内容的更多详细信息,在哪里可以找到库4和功能107?

我发现从OpenSSL错误代码中了解更多信息的最简单方法是:

$ openssl errstr 0406B07A
error:0406B07A:rsa routines:RSA_padding_add_none:data too small for key size
char *errorChar = new char[120];
errorChar = ERR_error_string(errorTrack, errorChar);

另外,来自ERR_error_string man page

  

ERR_error_string()生成一个人类可读的字符串,表示   错误代码e,并将其置于buf。 buf必须至少为256个字节   长。如果buf为NULL,则将错误字符串放在静态缓冲区中。   请注意,此函数不是线程安全的,不会检查   缓冲区的大小;改为使用ERR_error_string_n()。

由于您使用的是C ++,因此可能更容易:

std::string errorMsg;
errorMsg.resize(256);

(void)ERR_error_string(errorTrack, &errorMsg[0]);

上面,您使用std::string来管理资源。要获取非const指针,请获取第一个元素的地址。

如果需要,可以使用:

正确调整errorMsg的大小
(void)ERR_error_string(errorTrack, &errorMsg[0]);
errorMsg.resize(std::strlen(errorMsg.c_str()));

这是另一个可能使C ++更容易使用的技巧。

typedef unsigned char byte;
...

std::string encrypted;
int size = RSA_size(rsaPkey);

if (size < 0)
    throw std::runtime_error("RSA_size failed");

// Resize to the maximum size
encrypted.resize(size);
...

int retEnc = RSA_public_encrypt(length, in, (byte*)&encrypted[0], rsaPkey, RSA_NO_PADDING);

if (retEnc < 0)
    throw std::runtime_error("RSA_public_encrypt failed");

// Resize the final string now that the size is known
encrypted.resize(retEnc );

上面,您使用std::string来管理资源。要获取非const指针,请获取第一个元素的地址。

此外,NO_PADDING通常是一个坏主意。您通常需要OAEP填充。请参阅RSA_public_encrypt man page中有关填充如何影响最大尺寸的说明。

C ++可以更容易地使用OpenSSL。您可以使用EVP_CIPHER_CTX_free来避免对unique_ptr等函数的显式调用。请参阅OpenSSL wiki上的EVP Symmetric Encryption and Decryption | C++ Programsunique_ptr and OpenSSL's STACK_OF(X509)*How to get PKCS7_sign result into a char * or std::string等。

在您的情况下,管理资源看起来像these would be helpful

using FILE_ptr = std::unique_ptr<FILE, decltype(&::fclose)>;
using RSA_ptr = std::unique_ptr<RSA, decltype(&::RSA_free)>;