我有一组流阶段(Sources,Flows and Sinks),我想添加一些MetaData信息。
因此,而不是源产生A - >; (A,StreamMetaData)。我已经设法使用自定义流阶段执行此操作,在抓取(in)元素时,我推(out,(elem,StreamMetaData))。实际上,它不是“转换”现有的Source,而是将其传递给流程以重新创建新的源。
现在我正在尝试实现以下MetaStream阶段:
因此,假设源生成(A,StreamMetaData)的元组,我想将A传递给现有的Flow进行某些计算,然后将生成的'B'与StreamMetaData合并。然后将这些传递给接受(B,StreamMetaData)的接收器。
你怎么建议我去做。我被告知部分图表是最好的选择,并有助于完成这样的任务。 UniformFanOut和UniformFanIn使用Unzip((一个streamMetaData),一个,StreamMetaData)和Zip(A,B)
val fanOut = GraphDSL.create() { implicit b =>
val unzip = b.add(Unzip[T, StreamMetaData])
UniformFanOutShape(unzip.in, unzip.out0, unzip.out1)
}
val fanIn = GraphDSL.create() { implicit b =>
val zip = b.add(Zip[T ,StreamMetaData]())
UniformFanInShape(zip)
}
如何连接fanIn和fanOut以实现与图片中相同的行为?
我心中有这样的事情;
def metaFlow[T, B, Mat](flow: Flow[T, B, Mat]): Unit = {
val wrappedFlow =
Flow.fromGraph(GraphDSL.create(){ implicit b =>
import GraphDSL.Implicits._
val unzip: FanOutShape2[(T, StreamMetaData), T, StreamMetaData] = b.add(Unzip[T, StreamMetaData])
val existingFlow = b.add(flow)
val zip: FanInShape2[B,StreamMetaData,(B,StreamMetaData)] = b.add(Zip[B, StreamMetaData])
unzip.out0 ~> existingFlow ~> zip.in0
unzip.out1 ~> zip.in1
FlowShape(unzip.in, zip.out)
})
}
提前致谢。
答案 0 :(得分:1)
这个aprox创建一个新的SourceShape堆叠流程图可以工作,与你的flowShape实现略有不同。
def sourceGraph[A, B](f: A => B, source: Source[(A, StreamMetaData), NotUsed]) = Source.fromGraph(GraphDSL.create() { implicit builder: GraphDSL.Builder[NotUsed] =>
import GraphDSL.Implicits._
val unzip = builder.add(Unzip[A, StreamMetaData]())
val zip = builder.add(Zip[B, StreamMetaData]())
val flow0 = builder.add(Flow[A].map { f(_) })
val flow1 = source ~> unzip.in
unzip.out0 ~> flow0 ~> zip.in0
unzip.out1 ~> zip.in1
SourceShape(zip.out)
})
def flowGraph[A, B](f: A => B) = Flow.fromGraph(GraphDSL.create() { implicit builder =>
import GraphDSL.Implicits._
val unzip = builder.add(Unzip[A, StreamMetaData]())
val zip = builder.add(Zip[B, StreamMetaData]())
val flow0 = builder.add(Flow[A].map { f(_) })
unzip.out0 ~> flow0 ~> zip.in0
unzip.out1 ~> zip.in1
FlowShape(unzip.in, zip.out)
})