我正试图在Zeppelin笔记本中使用R在4个数据节点hadoop spark cluster上设置H2O云。我发现在我的R段停止抱怨内存不足(GC内存不足的java错误消息)之前,我必须给每个执行程序至少20Gb的内存。
对于运行H2O云,我是否需要每个执行程序需要20Gb的内存?或者是否有任何配置条目我可以更改以减少内存需求?
答案 0 :(得分:0)
此帖中没有足够的信息来说明具体细节。但我会说Java GC消息的存在不一定是个问题,特别是在启动时。在Java程序开始时看到一连串的GC消息是正常的,因为堆从没有任何东西扩展到它的稳态工作大小。
当您看到背靠背完整的GC周期具有真正的挂钟时间为几秒或更长时间时,Java GC真正成为主要问题的迹象。