我有一个cpp类,它实现了Netezza用户定义的函数(文档here)。它接受一个参数,它将是某种日期格式的字符串,并将其转换为YYYYMMDD格式。如果它不是有效日期,则返回“99991231”。每当我在某些表上运行代码时,我每次都会为相同的输入获得不同的输出。我假设有一些我没有看到的内存问题。
逻辑上,我们将char数组retval设置为等于date命令的输出。如果它给出一个空输出,我们设置为“99991231”。然后我们将temp char数组设置为retval的前9个字节(最后一个是null终止符)。然后我们memcpy进入ret->数据(我们必须返回的结构的char ptr)。
#include <stdarg.h>
#include <string.h>
#include "udxinc.h"
#include "udxhelpers.h"
using namespace nz::udx_ver2;
class Dateconvert: public Udf
{
public:
Dateconvert(UdxInit *pInit) : Udf(pInit){}
~Dateconvert(){}
static Udf* instantiate(UdxInit *pInit);
virtual ReturnValue evaluate()
{
StringReturn* ret = stringReturnInfo();
StringArg *str;
str = stringArg(0);
int lengths = str->length;
char *datas = str->data;
string tempData = datas;
string shell_arg = tempData;
shell_arg = "'" + shell_arg + "'";
string cmd="date -d " + shell_arg + " +%Y%m%d 2>/dev/null";
FILE *ls = popen(cmd.c_str(), "r");
char retval[100];
retval[0]='n';
fgets(retval, sizeof(retval), ls);
if(!isdigit(retval[0]))
{
strcpy(retval,"99991231");
}
pclose(ls);
char temp1[9];
memcpy(temp1, retval, 8);
temp1[8]='\0';
ret->size = 9;
memcpy(ret->data, temp1, 9);
NZ_UDX_RETURN_STRING(ret);
}
};
Udf* Dateconvert::instantiate(UdxInit *pInit)
{
return new Dateconvert(pInit);
}
当我在Netezza中的一个不同值上运行UDF时,它为我提供了预期的输出。但是,当我在多列上运行时,输出有时是正确的,有时是错误的,看似随机。我认为这必须是内部存储器问题。例子:
input output
1) 8/11/2014 20140811
2) 8/11/2014 20140811
Fri 10/17/14 20141017
3) 8/11/2014 99991231
Fri 10/17/14 20141017
4) 8/11/2014 20140811
Fri 10/17/14 20141017
5) 8/11/2014 20140811
Fri 10/17/14 20141017
9-Nov-12 20121109
6) 8/11/2014 20140811
Fri 10/17/14 20141017
9-Nov-12 01241109 (what?)
7) 8/11/2014 99991231
Fri 10/17/14 20141017
9-Nov-12 20121109
只要一次调用该函数,它就会返回正确的答案。当它被多次调用时出现问题,我不明白。为什么会有任何结果?在evaluate函数结束时将返回值大小从9更改为8并不能解决问题。
这是调用函数的格式:
select a.val1, DATECONVERT(a.val1)
from
(
select '8/11/2014' as val1 from calendar
union
select 'Fri 10/17/14' as val1 from calendar
union
select '9-Nov-12' as val1 from calendar
) a
编译UDF的命令:
nzudxcompile /export/home/nz/dateconvert.cpp -o dateconvert.o --sig "Dateconvert(VARCHAR(200))" --version 2 --return "VARCHAR(200)" --class Dateconvert --user user1 --pw mypw --db mydb
答案 0 :(得分:1)
要切入追逐,这里的问题在于如何分配tempData。
StringReturn* ret = stringReturnInfo();
StringArg *str;
str = stringArg(0);
int lengths = str->length;
char *datas = str->data;
string tempData = datas;
StringArg不存储以NUL结尾的字符串,而是提供长度并希望您自己管理。
select a.val1, ADMIN.DATECONVERT(a.val1)
from
(
select '09-Nov-12'::varchar(20) as val1
union all
select '9-Nov-12'::varchar(20) as val1
) a;
VAL1 | DATECONVERT
-----------+-------------
09-Nov-12 | 20121109
9-Nov-12 | 01221109
(2 rows)
在这个例子中,正在发生的事情是,当第二个较短的字符串被分配给tempData时,较长的第一个字符串仍然在内存中挂起一个字符。那个悬挂的&#39; 2&#39;在最后得到如下:
09-Nov-12
9-Nov-122
其中每一项都是 date 的有效输入,很好地解释了您所看到的输出。
$ date -d 09-Nov-12 +%Y%m%d
20121109
$ date -d 09-Nov-122 +%Y%m%d
01221109
更改分配以使用该长度,您将避免此问题。
//string tempData = datas;
string tempData(datas, datas+lengths);
然后你得到预期的输出:
select a.val1, ADMIN.DATECONVERT(a.val1)
from
(
select '09-Nov-12'::varchar(20) as val1
union all
select '9-Nov-12'::varchar(20) as val1
) a;
VAL1 | DATECONVERT
-----------+-------------
09-Nov-12 | 20121109
9-Nov-12 | 20121109
(2 rows)
所有这一切,我都不知道你在这个UDF中采取的整体方法是有效的。当我在上面运行它时,行会在主机上生成,因为它们在SQL中是硬编码的,并且 date 当然可以在主机上使用。但是,您不能期望在MPP后端(我们通常称为SPU)上运行的代码具有与您在主机上找到的Linux实用程序相同的可用性,或者如果它们存在,则它们具有相同的能力。
如果我将日期移动到实际表格中,UDF将在SPU上对其进行操作,并且它会给我输出错误,因为SPU图像上的 date 命令明显不同于主持人,根本不了解这种输入格式。
select a.col1, admin.DATECONVERT(a.col1) from calendar a;
COL1 | DATECONVERT
-----------+-------------
09-Nov-12 | 99991231
9-Nov-12 | 99991231
(2 rows)