我的程序依赖本地系统存储来编写程序本身生成的文件。因此,在“DirectPipelineRunner”模式下执行作业。以下是流程,
由于我的程序将API响应写入/附加到本地系统存储,我正在 DirectPipelineRunner 模式下执行管道。
是否可以在云中使用临时空间来删除对本地文件系统的依赖性以便我可以在 DataflowPipelineRunner 模式下执行pipleline?
我猜Custom Sources and Sinks可以在这里使用。有人可以为这个问题陈述添加一些亮点吗?