NiFi - 失败后停止

时间:2017-04-05 04:36:05

标签: apache-nifi

我一直在尝试谷歌和搜索堆栈的答案,但已经无法找到。

使用NiFi,是否可以在以前的作业失败时停止进程?

我们需要处理用户数据,但数据是按顺序构建的,因此如果作业失败,我们需要停止进一步的作业。

我知道我们可以创建脚本以在先前的进程失败时使进程失败,但是如果我需要整个组在失败时停止,那么这可能吗?我们不希望队列中的每个作业都遵循失败路径,我们希望它停止,直到我们可以查看数据并分析失败。

TL; DR - 我们可以在发生故障时停止进程,而不仅仅是将所有剩余的作业转移到故障流程中。我们希望队列中的数据等到我们修复,从而停止进程,而不是一次又一次地失败。

感谢任何反馈,欢呼!

编辑:拼写错误

1 个答案:

答案 0 :(得分:6)

您可以在队列上配置背压以停止上游进程。如果在故障队列中将背压阈值设置为1,则它将有效地停止处理器,直到您有机会解决故障。

enter image description here

enter image description here

屏幕截图显示了故障路由回到处理器,但这不是必需的。重要的是,在您采取行动之前,下一个处理器不应将其从队列中移除以保持背压。