我们可以根据它们的类型(MR,SPARK)将hadoop应用程序分配到公平调度程序队列中吗?

时间:2015-03-09 14:49:50

标签: hadoop mapreduce apache-spark

fair-scheduler是否支持基于应用类型的队列分配? 像所有SPARK工作一样,在Spark_Queue下,MR工作在MR_Queue下。

1 个答案:

答案 0 :(得分:2)

在提交/运行Spark作业时,您可以将YARN队列指定为--queue命令行参数,spark.yarn.queue Spark配置参数或SPARK_YARN_QUEUE环境变量。