如何跟踪Apache Flink中消息的处理?

时间:2019-07-04 12:32:55

标签: exception monitoring reporting apache-flink flink-streaming

我们正在寻找用于数据流的监视解决方案–在处理传入消息时跟踪它们的进度。

我将澄清–我们要构建一些服务,该服务将显示每个传入消息的状态。并在失败的情况下提供一些详细的信息。

我考虑了以下问题:

首先,每条传入的消息都将分配一些ID。

我们可以创建一个“报告器”(具有一些附加功能的记录器),每个操作员都可以与之通信,并更新状态和更多相关信息。 可能会将故障发送到某些kafka进行重新处理。

例如,这些详细信息可以存储在kibana(ES)中。 然后,我们需要创建另一个服务,该服务将查询kibana并显示结果。

您对此有何看法?有内置的解决方案吗? (内置指标链接在这里不相关,因为它们无助于跟踪单个消息)

您如何记录和跟踪已处理的消息?您如何处理异常? 我可以从中学到任何文档或一些用例吗?

谢谢, 罗伊。

0 个答案:

没有答案