收集数据的Akka-Streams(来源 - >流程 - >流程(收集) - >接收)

时间:2015-10-22 12:09:33

标签: scala akka-stream

我是斯卡拉和阿卡的全新人物。我有一个简单的RunnableFlow:

Source -> Flow (do some transformation) -> Sink.runForeach

现在我想要这样的事情:

Source -> Flow1 (do some transformation) -> Flow2 (do some transformation) -> Sink.runForeach

但Flow2应该等到Flow1中的100个元素可用,然后将这100个元素转换为新元素(需要Flow1中的所有100个元素)并将此新元素提供给接收器。

我做了一些研究并发现Explicit user defined buffers但我不明白如何从flow2中的flow1访问所有100个元素并使用它们进行一些转换。有人可以解释一下吗?或者甚至更好地发布一个简单的小例子?或两者兼而有之?

1 个答案:

答案 0 :(得分:9)

Akka Defined Collection

如果您不介意使用akka确定的集合类型,那么您可以改为使用grouped函数:

//alternative stream formation
val stream = Source(1 to 100).via(Flow[Int].grouped(bufferSize))
                             .runWith(Sink foreach println)

用户定义的收藏

如果要控制用于缓冲区的集合类型,例如SeqArray

type MyCollectionType[X] = Array[X]

def emptyMyCollection[X] : MyCollectionType[X] = Array.empty[X]

然后您可以使用两个Flow执行此操作。第一个Flow执行scan以构建一系列元素:

val bufferSize = 10

def appendToMyCollection[X](coll : MyCollectionType[X], i : X) : MyCollectionType[X] = 
  (if(coll.size < bufferSize) coll else emptyMyCollection[Int]) :+ i

val buffer : Flow[Int, MyCollectionType[Int], _] = 
  Flow[Int].scan[MyCollectionType[Int]](emptyMyCollection[Int]){
    (coll, i) => appendToMyCollection(coll, i)
  }

对于具有恰当大小的序列(即“goldiLocks”),第二个Flow是filter

val goldiLocks : Flow[MyCollectionType[Int], MyCollectionType[Int],_] =
  Flow[MyCollectionType[Int]].filter(_.size == bufferSize)

这两个流可以组合在一起产生一个Stream,它将生成所需的集合类型:

val stream = Source(1 to 100).via(buffer)
                             .via(goldiLocks)
                             .runWith(Sink foreach println)