我是GCP的新手,我正在尝试建立一个ETL流,该流会将数据从文件上传到BigQuery。在我看来,最好的解决方案是使用gsutil。我今天看到的步骤是:
步骤1和2将根据时间表执行,但是我希望步骤3是事件驱动的。因此,将文件复制到特定文件夹后,gsutil会将其发送到Cloud Storage中的指定存储桶。有什么想法可以做到吗?
答案 0 :(得分:1)
假设您正在Linux VM上运行,则可能要签出inotifywait
,as mentioned in this question -您可以将其作为后台进程来进行尝试,例如bash /path/to/my/inotify/script.sh &
,然后在对其进行测试并按自己的喜好工作后将其设置为守护程序。