使用UNION ALL在Hive中组合多个表?

时间:2013-04-24 01:01:24

标签: sql hive hiveql

我正在尝试将几个表中的一个变量追加到一起(也称为row-bind,concatenate),以便在Hive中创建一个具有单个列的较长表。我认为基于这个问题(HiveQL UNION ALL)使用UNION ALL是可行的,但我不确定这是一种有效的方法吗?

伪代码看起来像这样:

CREATE TABLE tmp_combined AS
SELECT b.var1 FROM tmp_table1 b
UNION ALL
SELECT c.var1 FROM tmp_table2 c
UNION ALL
SELECT d.var1 FROM tmp_table3 d
UNION ALL
SELECT e.var1 FROM tmp_table4 e
UNION ALL
SELECT f.var1 FROM tmp_table5 f
UNION ALL
SELECT g.var1 FROM tmp_table6 g
UNION ALL
SELECT h.var1 FROM tmp_table7 h;

感谢任何帮助!

3 个答案:

答案 0 :(得分:26)

尝试以下编码......

Select * into tmp_combined  from 
(
    SELECT b.var1 FROM tmp_table1 b
    UNION ALL
    SELECT c.var1 FROM tmp_table2 c
    UNION ALL
    SELECT d.var1 FROM tmp_table3 d
    UNION ALL
    SELECT e.var1 FROM tmp_table4 e
    UNION ALL
    SELECT f.var1 FROM tmp_table5 f
    UNION ALL
    SELECT g.var1 FROM tmp_table6 g
    UNION ALL
    SELECT h.var1 FROM tmp_table7 h
) CombinedTable 

与声明一起使用: 设置hive.exec.parallel = true

这将同时执行不同的选择,否则将逐步执行。

答案 1 :(得分:2)

我会说这是做行绑定的简单而有效的方法,至少,这是我在代码中使用的方法。 顺便说一句,如果直接输入伪代码,可能会导致语法错误,您可以尝试:

create table join_table as select * from (select ... join all select join all select...) tmp;

答案 2 :(得分:1)

我做了同样的概念,但对于不同的表格employeelocation我可能会对你有所帮助:

DATA:Table_e-employee
empid empname
13  Josan
8   Alex
3   Ram
17  Babu
25  John

Table_l-location
empid emplocation
13  San Jose
8   Los Angeles
3   Pune,IN
17  Chennai,IN
39  Banglore,IN

hive> SELECT e.empid AS a ,e.empname AS b FROM employee e 
UNION ALL 
SELECT l.empid AS a,l.emplocation AS b FROM location l;

包含别名ab的OutPut:

13  San Jose
8   Los Angeles
3   Pune,IN
17  Chennai,IN
39  Banglore,IN
13  Josan
8   Alex
3   Ram
17  Babu
25  John