我有一个DAG,可以从Cloud Storage下载文件并将其保存到以下路径:/home/airflow/gcs/data/FILENAME.txt
此文件然后出现在/data
下的Cloud Composer存储桶中。
但是,当我最初编写DAG时,我没有将下载位置指定为/home/airflow/gcs/data/
,只是让它就地下载了文件。我想删除这些文件,但是我不知道在哪里找到它们。
未指定文件夹时,Cloud Composer中下载的文件将驻留在哪里?
答案 0 :(得分:0)
您似乎无需担心首次编写DAG时的清理工作-如果您使用的是gcs_download_operator
,则根据其source code,如果您未指定为filename
参数的值,下载的文件将不会存储在本地文件系统上。