使用实时管道时,无法从gcs向bigquery馈送数据

时间:2019-08-20 05:35:51

标签: google-bigquery google-cloud-storage real-time google-cloud-data-fusion

我已经在数据融合中开发了一条实时管道,可以从pubsub获取数据,然后将其输入GCS,然后再输入BQ。但是,在GCS(可用作接收器)之后,由于GCS仅可用作接收器,因此我无法将数据馈送到BQ,因此,它不提供任何输出架构。有什么办法可以创建一条管道,将数据从GCS传输到BQ

1 个答案:

答案 0 :(得分:0)

提供可能的解决方案:无法将一个接收器连接到另一个接收器。从这个问题出发,我的猜测是SO正在尝试将GCS接收器插件连接到BQ接收器,并使数据从一个接收器流向另一个接收器。在设计上,使用数据融合管道是不可能的。

SO可以将数据同时从pubsub源同时推送到BQ和GCS接收器,而不是一个接一个地推送。看起来像这样,

enter image description here

希望这会有所帮助。