我试图将S3中的大型csv文件(100GB)下载到EC2实例上的已安装驱动器中。
我已经下载了AWS-CLI并使用了命令:aws s3 cp s3://bucket/file.csv . --region=us-east-1
并且它似乎工作得很好并且下载了大约70GB的数据然后突然它似乎停止并且没有任何消息或错误而存在,删除它创建的文件的一部分。
Completed 642 of 916 part(s) with 1 file(s) remaining
然后它就停止了。
为什么会这样,我怎么能绕过它呢?我尝试使用s3cmd get
,但它太快了,并且变得很慢到几乎停止下载任何东西的程度。
有什么想法吗?网络问题?磁盘问题? API问题?
谢谢
答案 0 :(得分:5)
或者,您可以尝试https://github.com/minio/mc来实现可恢复的下载和上传。
此外,它还为您正在进行的操作提供会话,如果出现任何错误,它会正常保存会话,您可以从中断的地方继续。
mc
是用Golang编写的,并在Apache license v2
下发布。请提供反馈意见。