我总结了两个负面花车:
char * lhs = "-2234.6016114467412141";
char * rhs = "-4939600281397002.2812";
根据Perl,使用bignum和Math :: BigFloat,答案是
-4939600281399236.8828114467412141
然而,根据GMP,使用下面的代码,答案是
-4939600281399236.88281
我哪里出错了?剩下的“14467412141”怎么了?
#include "stdafx.h"
#include "gmp-static\gmp.h"
#include <stdlib.h> /* For _MAX_PATH definition */
#include <stdio.h>
#include <malloc.h>
#include <math.h>
#define F(x) mpf_t x; mpf_init( x );
void main(void)
{
F(f_lhs);
F(f_rhs);
F(f_res);
char * resbuff;
mp_exp_t exp;
char * lhs = "-2234.6016114467412141";
char * rhs = "-4939600281397002.2812";
int validOp = mpf_set_str( f_lhs, lhs, 10 );
validOp = mpf_set_str( f_rhs, rhs, 10 );
mpf_add( f_res, f_lhs, f_rhs );
resbuff = mpf_get_str( NULL, &exp, 10, 0, f_res );
printf( "Using mpf_add, %s + %s = %s (exp=%d)\n", lhs, rhs, resbuff, exp );
free(resbuff);
}
示例输出:
Using mpf_add, -2234.6016114467412141 + -4939600281397002.2812 = -493960028139923688281 (exp=16)
P.S。我尝试添加一个大于64(默认值)的mpf_set_default_prec
调用,但没有效果。
答案 0 :(得分:3)
看起来你是以64位溢出尾数。尝试执行mpf_get_prec(f_res)
检查它是否是您想要的精度。如果在初始化任何mpf变量之前没有调用mpf_set_default_prec()
(主要的第1行)。
答案 1 :(得分:0)
使用更大的值启动。试试这个:
mpf_set_default_prec(5*1024)