我们有一个安装了Hue 3.9.0的4节点集群。 Namenode有24 GB的RAM,每个DataNode有20 GB。我们有几个工作正在消耗资源:
我们还在Impala和Hive中运行查询。这些查询一次又一次消耗所有可用的RAM(在NameNode上),每次都会导致Hue崩溃。当它发生时Cloudera Manager(CM)显示Hue健康状况不佳(进程状态:"错误:此角色的进程已退出。此角色应该启动。")而所有其他服务如HBase,HDFS,Impala,Hive等都有很好的健康。通过CM重启Hue服务后再次正常工作。我们如何防止Hue因缺少RAM而崩溃?
我认为我正在寻找的是为Hue服务保留足够RAM空间的手段(选项),但到目前为止我所能找到的是通过Hue配置选项卡设置的Impala配置选项(括号中的当前值):
但无论如何运行一系列查询(并行或一个接一个)最终会消耗所有可用的RAM。在查询完成后,似乎它不会释放RAM。我宁愿期望Impala和Hive说他们没有足够的内存来继续使用,也不会在这种情况下崩溃其他服务,比如Hue。