Question

我想以这样的方式创建一个不同的WindowFn，以便根据另一个字段而不是基于输入条目的时间戳，将Windows分配给我的任何输入元素。我知道Google DataFlow SDK中预定义的WindowFn使用时间戳作为分配窗口的条件。

更具体地说，我想创建一种SlidingWindows但不是将时间戳作为窗口分配标准，而是考虑将另一个字段视为该标准。

如何创建自定义WindowFn？在创建自己的WindowFn时，我应该考虑哪些要点？

感谢。

Answer 1

要创建一个新的WindowFn，您只需要从WindowFn或子类继承并覆盖各种抽象方法。

在您的情况下，您不需要窗口合并，因此您可以从NonMergingWindowFn继承，并且您的代码看起来像

public class MyWindowFn extends NonMergingWindowFn<ElementT, IntervalWindow> {
  public Collection<W> assignWindows(AssignContext c) {
    return setOfWindowsElementShouldBeIn(c.element());
  }

  public boolean isCompatible(WindowFn other) {
    return other instanceof MyWindowFn;
  }

  public Coder<IntervalWindow> windowCoder() {
    return IntervalWindow.getCoder();
  }

  public W getSideInputWindow(final BoundedWindow window) {
    // You may not need this if you won't ever be using PCollections windowed 
    // with this as side inputs.  If that's the case, just throw.
    // Otherwise you'll need to figure out how to map the main input windows
    // into the windows generated by this WindowFn.
  }
}

如何在Google数据流中创建个性化WindowFn

1 个答案: