我有一个Stream分析工作,可以从外部源获取数据(我对如何格式化数据没有发言权)。我试图将数据导入我的数据湖,存储为JSON。这工作正常,但我也希望以CSV格式输出,这是我遇到麻烦的地方。
由于输入数据有一个数组作为列之一,当在JSON中导入时,它识别它并提供正确的数据,即将它们放在括号[A,B,C]中,但当我在CSV中使用它时,我得到列表示为单词" Array"。我以为我会将它转换为XML,使用STUFF并将它们放在一行中,但它不喜欢在CROSS APPLY中使用SELECT语句。
是否有人使用Stream Analytics将数据导入CSV,其中包含数组列?如果是这样,您是如何设法导入数组值的?
示例数据:
[
{"GID":"10","UID":1,"SID":"5400.0","PG:["75aef","e5f8e"]},
{"GID":"10","UID":2,"SID":"4400.0","PG:["75aef","e5f8e","6d793"]}
]
PG是我要提取的列,因此输出CSV应该类似于。
GID|UID|SID|PG
10|1|5400.0|75aef,e5f8e
10|2|4400.0|75aef,e5f8e,6d793
这是我正在使用的查询,
SELECT
D.GID ,
D.UID ,
D.SID ,
A.ArrayValue
FROM
dummy AS D
CROSS APPLY GetArrayElements(D.PG) AS A
你可以想象,这给了我这种格式的结果。
GID|UID|SID|PG
10|1|5400.0|75aef
10|1|5400.0|e5f8e
10|2|4400.0|75aef
10|2|4400.0|e5f8e
10|2|4400.0|6d793
答案 0 :(得分:1)
正如Pete M所说,您可以尝试创建一个JavaScript user-defined function来将数组转换为字符串,然后您可以在查询中调用此用户定义的函数。
JavaScript用户定义函数:
function main(inputobj) {
var outstring = inputobj.toString();
return outstring;
}
在查询中调用UDF:
SELECT
TI.GID,TI.UID,TI.SID,udf.extractdatafromarray(TI.PG)
FROM
[TEST-SA-DEMO-BLOB-Input] as TI
结果: