在HIVE中将JSON格式字符串转换为数组

时间:2016-09-27 19:38:52

标签: json oracle hadoop hive

我有一个存储JSON格式字符串的数据库列。字符串本身包含多个元素,如数组。每个元素包含多个键值对。某些值也可能包含多个键值对,例如,下面的“地址”属性。

[{"name":"abc", 
  "address":{"street":"str1", "city":"c1"},
  "phone":"1234567"
 },
 {"name":"def", 
  "address":{"street":"str2", "city":"c1"},
  "phone":"7145895"
 }
]

我的最终目标是获取JSON字符串中每个字段的单个值。我可能会使用explode()来做到这一点,但是explode()需要将数组传递给它,而不是字符串。所以我的第一个目标是将JSON字符串转换为数组。有人可以让我知道怎么做吗?非常感谢。

2 个答案:

答案 0 :(得分:1)

你可以从这开始:

select concat(‘{“name”’,data_json) from your_table q1 --re-construct your json
lateral view explode(split(json_data,’{“name”’)) json_splits as data_json --split json at each {"name" tag into array and then explode

注意:我的代码未经过测试,因为我目前无法访问配置单元。这肯定会给你一个良好的开端,或者你可以随时使用Hive SerDe for JSON com.cloudera.hive.serde.JSONSerDe

答案 1 :(得分:1)

正如@ ruben123所建议的,特别是当你的json很复杂时,请使用Hive SerDe for JSON。有几个JSONSerDe可用,例如。 com.cloudera.hive.serde.JSONSerDeorg.openx.data.jsonserde.JsonSerDe link

确保json格式正确,一行记录一行json。所以,你的json应该是:

{"name":"abc", "address":{"street":"str1", "city":"c1"}, "phone":"1234567"}
{"name":"def", "address":{"street":"str2", "city":"c1"}, "phone":"7145895"} 

创建配置表:

CREATE TABLE sample_json (
   name STRING,
   address STRUCT<
     street: STRING,
     city: STRING>,
   phone INT )
ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe'
LOCATION '/your/hdfs/directory';

要选择访问字段,只需

select name, address.street, address.city, phone from sample_json;

abc   str1  c1  1234567
def   str2  c1  7145895

注意:如果尚未安装JSONSerDe,则必须运行ADD JAR