将大量文件从Google云端存储复制到Google Colab,而无需进行日志/打印

时间:2018-11-20 11:09:37

标签: python gcloud google-colaboratory gsutil

我有很多图像(.jpg)存储在Google Cloud Storage中,我想在Google Colab中使用。

为此我使用(在Google Colab中)

GCS_PATH = "gs://bucket/prefix"
!gsutil -m cp -r {GCS_PATH} ./data

但是,当运行时,Google colab会将每次传输打印到单元的输出中,这会使我的浏览器变慢。我想知道gsutil cp是否有--quiet或--silent标志。我检查了gsutil help cp,但找不到任何东西。

1 个答案:

答案 0 :(得分:3)

如果您运行gsutil help options,您会发现它具有一个顶级-q标志,该标志应该可以执行您想要的操作:

-q          Causes gsutil to perform operations quietly, i.e., without
            reporting progress indicators of files being copied or removed,
            etc. Errors are still reported. This option can be useful for
            running gsutil from a cron job that logs its output to a file, for
            which the only information desired in the log is failures.

如果您绝对不想输出任何信息,则可以始终将stdout和stderr重定向到一个单独的文件(例如,在大多数* nix系统上,看起来像somecommand >/dev/null 2>&1,但是我不确定我的头是Colab允许您对哪些文件/设备进行写访问)。