很多时候我在Yarn(HDInslight Linux集群)中遇到过错误: -
org.apache.hadoop.security.AccessControlException: Queue root.joblauncher already has 500 applications, cannot accept submission of application
根据MS网站,分辨率为: -
Wait until currently pending jobs have completed before submitting more jobs
我觉得每个群组500个工作岗位的限制(不幸的是,在Hive的情况下还包括庙宇工作)限制性太强。这意味着我们每个群集可以大致运行200-250个hive作业。如果我们需要运行更多,我们需要生成另一个集群。这很奇怪。这意味着无论我在Yarn集群中拥有多少节点,无论有多少核心和数量。我拥有的每个节点的内存,我只能运行500个作业。必须有一些解决方案。否则,它违背了分布式计算的理念,我们可以通过向集群添加更多节点来增加容量。即使我在群集中有10,000个节点,我也只能在该群集上运行500个作业。这有什么解决方案吗?