本地下载的文件在Cloud Composer上哪里存放?

时间:2019-09-05 19:18:06

标签: airflow google-cloud-composer

我有一个DAG,可以从Cloud Storage下载文件并将其保存到以下路径:/home/airflow/gcs/data/FILENAME.txt

此文件然后出现在/data下的Cloud Composer存储桶中。

但是,当我最初编写DAG时,我没有将下载位置指定为/home/airflow/gcs/data/,只是让它就地下载了文件。我想删除这些文件,但是我不知道在哪里找到它们。

未指定文件夹时,Cloud Composer中下载的文件将驻留在哪里?

1 个答案:

答案 0 :(得分:0)

您似乎无需担心首次编写DAG时的清理工作-如果您使用的是gcs_download_operator,则根据其source code,如果您未指定为filename参数的值,下载的文件将不会存储在本地文件系统上。