是否可以并行执行多个配置单元查询

时间:2017-08-07 12:26:27

标签: hadoop hive hiveql hadoop2

我有一个脚本,它会读取&一次执行一个hql,但我想一次执行多个hql。请告诉我有没有办法这样做。

2 个答案:

答案 0 :(得分:1)

如果您使用hive -e 'some command',则可以使用Bash &

hive -e 'some command' &
hive -f someFile.hql &
etc..

答案 1 :(得分:0)

方法1(oozie):

运行所有hql的最简单直接的方法之一就是使用oozie。创建一个oozie作业并并行定义配置单元操作并提交您的工作。

方法2(Shell):

创建多个shell脚本,每个shell脚本都有一个hive -e '<<query>>',并与cron作业并行运行所有shell脚本(或者再次使用oozie运行shell脚本)。

虽然方法2有效,但我建议使用方法1,因为oozie是并行运行配置单元脚本的方法。