为什么oozie会向纱线提交shell动作?

时间:2016-05-13 05:03:46

标签: hadoop scheduler yarn oozie hadoop2

我最近在学习oozie。我对贝壳动作很好奇。我正在执行包含shell命令的shell动作,如

hadoop jar <jarPath> <FQCN>

运行此操作时,有两个纱线作业正在运行

  1. 一个用于hadoop工作

  2. 一个用于shell操作

  3. 我不明白为什么shell动作需要纱线来执行。我也试过电子邮件行动。它在没有纱线资源的情况下执行。

1 个答案:

答案 0 :(得分:2)

要回答这个问题,区别在于

  1. 独立运行shell脚本(.sh文件或从CLI)
  2. 作为oozie工作流程的一部分运行shell操作。(oozie shell操作中的shell脚本)
  3. 第一种情况非常明显。

    在第二种情况下,oozie通过YARN(是资源协商器)启动shell脚本,以在安装了oozie的集群上运行shell脚本,并在内部运行MR作业以启动shell操作。因此shell脚本在内部作为YARN应用程序运行。 oozie工作流的日志显示了在oozie中启动shell操作的方式。