Apache Beam是否支持迭代算法,就像Apache Flink一样?

时间:2018-05-18 10:10:35

标签: apache-flink apache-beam

Apache Flink支持迭代转换:https://ci.apache.org/projects/flink/flink-docs-release-1.4/dev/batch/iterations.html

使用Apache Beam是否也支持这种功能,或者我们可以使用Beam概念实现相同的功能吗?

1 个答案:

答案 0 :(得分:2)

我已在user mailing list of Apache Beam上发布了此问题。

这是一个开放的票证(BEAM-106),但尚未开始。

有两种解决方案:

  • 自行展开循环,这当然限制了迭代次数。请注意您创建的转换次数。这可能受到跑步者的限制。
  • 创建多个管道并存储中间数据。这样可以更容易地进行调试,但会产生存储和加载数据的开销。