将s3存储桶复制到另一个存储桶的速度太慢,我怎样才能更快地完成?

时间:2016-06-20 07:04:52

标签: amazon-web-services amazon-s3 copy aws-cli bucket

使用以下命令将S3存储桶复制到另一个存储桶的速度太慢:

aws s3 cp s3://bucket1 s3://bucket2 --recursive

使用awscli。但这太慢了。因为我的bucket1包含太多文件。只有3,000,000张图像在12小时内复制。

寻找有助于加快复制过程的建议。

2 个答案:

答案 0 :(得分:1)

您可以将此脚本用于多线程:

https://github.com/paultuckey/s3_bucket_to_bucket_copy_py

答案 1 :(得分:0)

如前所述,提到的方法是将大量数据从源传输到目的地的推荐做法。

S3 Optimized Transfer

另外,您还可以在存储桶上启用Amazon S3传输加速功能(它会产生一些费用),但它会将您的传输速度提高到100%

Amazon S3 Transfer Accelaration