在Hive中将代码字符串转换为desc

时间:2018-07-28 00:08:43

标签: hive hiveql

在这里,我们有一个连字符的字符串,例如0-1-3 ....,长度不是固定的, 蜂巢中还有一个DETAIL表来解释每个代码的含义。

DETAIL | code | desc | + ---- + ---- + | 0 | AAA | | 1 | BBB | | 2 | CCC | | 3 | DDD |

现在,我们需要一个配置单元查询将代码字符串转换为描述字符串。

例如:案例0-1-3应该获得类似AAA-BBB-DDD的字符串。

有关如何获得该建议的任何建议?

1 个答案:

答案 0 :(得分:2)

Split您的字符串获取一个数组,explode数组并与明细表连接(在我的示例中使用CTE代替它,而是使用普通表代替)以将desc与代码连接。然后使用collect_list(desc)汇编字符串以获取数组+ concat_ws()以获得串联字符串:

select concat_ws('-',collect_list(d.desc)) as code_desc 
from
( --initial string explode
select explode(split('0-1-3','-')) as code
) s
inner join 
(-- use your table instead of this subquery
select 0  code, 'AAA' desc union all
select 1, 'BBB' desc union all
select 2, 'CCC' desc union all
select 3, 'DDD' desc
) d on s.code=d.code;

结果:

OK
AAA-BBB-DDD
Time taken: 114.798 seconds, Fetched: 1 row(s)

如果需要保留原始顺序,则使用posexplode可以返回元素及其在原始数组中的位置。然后您可以在collect_list()之前按记录ID和pos进行排序。

如果您的字符串是表格列,则使用侧视图选择爆炸值。

这是一个更复杂的示例,其中保留了订单并提供了侧视图。

select str as original_string, concat_ws('-',collect_list(s.desc)) as transformed_string
from
(
select s.str, s.pos, d.desc     
from
( --initial string explode with ordering by str and pos
  --(better use your table PK, like ID instead of str for ordering), pos
select str, pos, code from ( --use your table instead of this subquery
                             select '0-1-3' as str union all
                             select '2-1-3' as str union all
                             select '3-2-1' as str
                           )s
lateral view outer posexplode(split(s.str,'-')) v as pos,code
) s
inner join 
(-- use your table instead of this subquery
select 0  code, 'AAA' desc union all
select 1, 'BBB' desc union all
select 2, 'CCC' desc union all
select 3, 'DDD' desc
) d on s.code=d.code
distribute by s.str -- this should be record PK candidate
sort by s.str, s.pos --sort on each reducer
)s
group by str;

结果:

OK
0-1-3   AAA-BBB-DDD
2-1-3   CCC-BBB-DDD
3-2-1   DDD-CCC-BBB
Time taken: 67.534 seconds, Fetched: 3 row(s)

请注意,使用的是distribute + sort,而不是简单的order by str, pos。 distribution + sort在完全分布式模式下工作,order by也可以在单个reducer上正常工作。