aws s3 mv / sync命令

时间:2017-01-20 12:47:30

标签: amazon-web-services amazon-s3 aws-cli

我有大约200万个文件嵌套在存储桶中的子存档中,并希望将所有文件移动到另一个存储桶中。花大部分时间在搜索上......我找到了使用AWS CLI mv / sync命令的解决方案。使用move命令或使用sync命令,然后在成功同步后删除所有文件。

aws s3 mv s3://mybucket/ s3://mybucket2/ --recursive

或者它可以是

aws s3 sync s3://mybucket/ s3://mybucket2/ 

但问题是我怎么知道有多少文件/文件夹已移动或同步,需要多长时间... 如果发生一些异常(机器/服务器由于任何原因停止/互联网断开)怎么办...我必须再次执行命令,否则它肯定会完成并移动/同步所有文件。如何确定移动/同步的文件数量以及未移动/同步的文件。

或者我可以拥有类似的东西

我移动有限数量的文件,例如10万..并重复,直到所有文件都被移动......

或根据上传的时间移动文件...例如从开始日期上传到结束日期的文件

如果是的话......怎么样?

1 个答案:

答案 0 :(得分:2)

要移动它们,请使用:

aws s3 sync s3://mybucket/ s3://mybucket2/

您可以在完成(或失败)后重复该命令而不会出现问题。这将检查目标s3存储桶是否缺少/不同,并将再次处理它。

时间取决于文件的大小,您拥有的对象数量。亚马逊将目录计为对象,因此它们也很重要。