AWS CLI S3复制停止,没有任何错误

时间:2015-11-20 16:46:20

标签: amazon-s3 amazon-ec2 aws-cli

我试图将S3中的大型csv文件(100GB)下载到EC2实例上的已安装驱动器中。

我已经下载了AWS-CLI并使用了命令:aws s3 cp s3://bucket/file.csv . --region=us-east-1并且它似乎工作得很好并且下载了大约70GB的数据然后突然它似乎停止并且没有任何消息或错误而存在,删除它创建的文件的一部分。

Completed 642 of 916 part(s) with 1 file(s) remaining

然后它就停止了。

为什么会这样,我怎么能绕过它呢?我尝试使用s3cmd get,但它太快了,并且变得很慢到几乎停止下载任何东西的程度。

有什么想法吗?网络问题?磁盘问题? API问题?

谢谢

1 个答案:

答案 0 :(得分:5)

或者,您可以尝试https://github.com/minio/mc来实现可恢复的下载和上传。

此外,它还为您正在进行的操作提供会话,如果出现任何错误,它会正常保存会话,您可以从中断的地方继续。

mc是用Golang编写的,并在Apache license v2下发布。请提供反馈意见。