我正在调查新GridGain版本的改进,并希望了解GridGain 6如何处理包含许多作业的任务。
考虑一种情况,即任务产生大量工作(数十万)。在GridGain 4中,我们观察到作业在节点上的内存中排队,可能导致内存不足"内存不足。的问题。我们通过创建基于磁盘的队列并在作业完成时提交排队的作业来限制作业提交,从而解决了这个问题。
可以(如何?)GridGain 6处理这种情况,是否有任何具体建议?我看到有一个Streaming API可用,但这可以解决我们的情况。
由于
答案 0 :(得分:1)
我认为您需要利用 GridComputeTaskContinuousMapper 类,它允许您在任务中拥有一定数量的未完成作业,然后在其他作业完成后发出新作业。
查看GridGain附带的ComputeContinuousMapperExample(也可在GitHub上找到)。